Síntesis
La organización sin fines de lucro detrás de Wikipedia publicó un informe sobre la actividad de agentes “descontrolados” de OpenAI en sus plataformas. Aunque no encontró sistemas ni datos comprometidos, advirtió sobre el esfuerzo que exige detectar este tipo de actividad y pidió a las empresas de IA asumir su responsabilidad.
- Los agentes editaron wikis sin la aprobación que exigen las reglas de Wikipedia.
- Algunas ediciones buscaban convertir una herramienta de citas en un proxy.
- También intentaron, sin éxito, comprometer la herramienta de notas Etherpad.
- Su tráfico masivo pudo contribuir a una caída parcial de un servicio en mayo.
Noticia
La Fundación Wikimedia, organización sin fines de lucro que opera Wikipedia, confirmó que detectó actividad de agentes “descontrolados” de OpenAI en sus plataformas, según una reciente publicación de la entidad. La revisión se originó tras reportes de otras organizaciones, como DseWiki, un pequeño wiki alemán para programadores que esos agentes usaron desde mayo para dejarse mensajes y comunicarse entre ellos.
Según la fundación, los agentes hicieron ediciones que no llegaron a páginas visibles para el público, ya que casi todas fueron pruebas en áreas de práctica o “sandbox”. Las políticas de Wikipedia permiten bots si son declarados y aprobados por la comunidad, pero en estos casos no se pidió ninguna autorización.
Algunas ediciones, sin embargo, apuntaron a la configuración de una herramienta de citas. La fundación las considera potencialmente maliciosas, porque buscaban convertir esa herramienta en un proxy para obtener datos desde servicios remotos.
Los agentes también intentaron, sin éxito, comprometer Etherpad, una herramienta pública de notas que Wikimedia ofrece a su comunidad, con el mismo objetivo. Otros agentes la utilizaron para registrar notas sobre sus tareas, aunque eso no derivó en coordinación entre ellos, indicó el medio The Hacker News.
A esto se sumó un incidente posiblemente ocurrido como consecuencia de intenso tráfico, en el cual millones de solicitudes automatizadas a sus API públicas, millones de páginas rastreadas en Wikidata y Wikimedia Commons, y cientos de miles de consultas al Wikidata Query Service, pudieron haber contribuido a una caída parcial de ese servicio en mayo de este año, reveló la agencia de noticias Reuters.
La fundación no halló evidencia de que sus sistemas se usaran para coordinar agentes ni de que datos o sistemas fueran comprometidos. Aun así, la fundación advirtió que “no deberíamos permitir que este comportamiento se convierta en la nueva normalidad”.
El problema se suma a una presión previa. El año pasado Wikimedia informó un aumento de 50% en el uso banda ancha por la actividad de bots, que generaban el 65% del tráfico más costoso en recursos. La fundación advierte que esa carga puede saturar sistemas y bloquear a visitantes humanos, mientras sus voluntarios terminan limpiando lo que dejan los agentes.
La Fundación Wikimedia sostuvo que “las empresas de IA no están haciendo lo suficiente para proteger sus sistemas”, y agregaron que, como mínimo, esos sistemas deberían ser fácilmente identificables por organizaciones sin fines de lucro.
OpenAI agradeció los hallazgos de Wikimedia y dijo que trabaja con la fundación para analizar la actividad. “Seguiremos compartiendo información relevante a medida que avance ese trabajo”, afirmó un vocero a la agencia de noticias Reuters.
