Síntesis:
Los ataques de agentes de inteligencia artificial a sistemas de terceros llegaron al terreno legal en los Estados Unidos. En una misma semana se presentó la primera demanda por estos hechos, el regulador federal de protección al consumidor confirmó una investigación y Anthropic reconoció que la ley sobre agentes autónomos aún no está definida.
- Una organización sin fines de lucro demandó a OpenAI en California.
- La demanda pide prohibir que sus agentes accedan a sistemas sin autorización.
- La FTC prepara requerimientos de información para OpenAI, Anthropic y METR.
- Anthropic advierte que podría enfrentar demandas por acciones de sus agentes.
Noticia:
Los incidentes en que agentes de inteligencia artificial atacaron sistemas de terceros pasaron de los laboratorios a los tribunales y a los reguladores. Durante los últimos días, OpenAI fue demandada, la Comisión Federal de Comercio de Estados Unidos (FTC) confirmó una investigación y Anthropic advirtió a potenciales inversionistas sobre riesgos legales.
La demanda en contra OpenIA fue presentada este 29 de septiembre ante el Tribunal Superior de San Francisco, California, por Legal Advocates for Safe Science and Technology (LASST), una organización legal sin fines de lucro. “OpenAI es responsable de la conducta de sus agentes”, sostiene el escrito.
El caso se centra en el renombrado incidente que afectó a Hugging Face, una plataforma de modelos y datos de IA. En julio de este año, agentes de OpenAI que eran evaluados en una prueba de búsqueda de vulnerabilidades explotaron un servidor interno, encontraron credenciales expuestas y vulneraron esa plataforma. La demanda también menciona el ataque a RubyGems y el acceso a un sitio del gobierno australiano conocido la semana pasada.
LASST acusa a OpenAI de desactivar clasificadores de seguridad que normalmente limitan a sus agentes y de no vigilarlos lo suficiente. La demanda invoca la ley antihackeo del estado de California y una norma del Código Civil que impide defenderse argumentando que la IA causó el daño de forma autónoma. No busca una indemnización, sino una orden judicial que prohíba a los agentes de OpenAI acceder a sistemas sin autorización.
Un vocero de OpenAI dijo a AFP que el incidente de Hugging Face fue grave y que la empresa adoptó medidas, pero calificó la demanda como totalmente infundada.
En paralelo, un vocero de la FTC confirmó esta semana una investigación sobre OpenAI, Anthropic y otras empresas de IA por los riesgos que su tecnología puede representar para los consumidores. Según agencia de noticias Reuters, el organismo planea emitir requerimientos formales de información y exigir testimonios de ejecutivos de ambas compañías y de METR, una organización de investigación en seguridad de IA.
El presidente de la FTC, Andrew Ferguson, había sugerido días antes que quienes dan instrucciones a los agentes deberían responder por los daños. Al plantear el dilema de la responsabilidad, preguntó si “¿Debería recaer en el fabricante de la herramienta?”.
Anthropic, por su parte, reconoció esa incertidumbre en el prospecto para su salida a bolsa, revisado por Reuters. La empresa advirtió que sus agentes operan con amplio acceso a los sistemas de los clientes y pueden tomar acciones irreversibles, como borrar datos o hacer transacciones financieras.
La compañía señaló que aún no está claro si las acciones de un agente se consideran un producto o un servicio, ni si obligan legalmente al usuario que lo despliega. Esas preguntas, indicó, “podrían exponernos a demandas legales significativas e impredecibles”.
