La FTC (Federal Trade Commission, Comisión Federal de Comercio de EEUU) confirmó una investigación sobre OpenAI, Anthropic y otras empresas de Inteligencia Artificial por los posibles riesgos de sus tecnologías para los consumidores. Un portavoz del organismo confirmó la indagación a AP y declinó entregar más detalles.
El organismo, presidido por Andrew Ferguson, examina a dos de los principales proveedores de asistentes generativos. OpenAI desarrolla ChatGPT y Anthropic ofrece Claude. Ambas compañías quedaron bajo escrutinio después de divulgar problemas de seguridad relacionados con sistemas que utilizan herramientas para realizar tareas.
La confirmación pública llegó mientras el sector debate cómo controlar los agentes de IA, programas que pueden ejecutar acciones en servicios digitales a partir de instrucciones. Entre los incidentes divulgados figuran accesos a sitios externos y actividades que superaron los límites previstos en las pruebas.
La FTC puede exigir documentos y testimonios
La sección 5 de la ley que regula a la FTC prohíbe prácticas comerciales injustas o engañosas. Ese marco permite investigar conductas que afecten a consumidores, además de cuestiones de competencia. Las representaciones u omisiones que puedan inducir a error a un consumidor forman parte de sus criterios de evaluación.
El organismo dispone de requerimientos civiles de información para reunir pruebas antes de iniciar un procedimiento. Puede solicitar documentos, respuestas escritas y testimonios. Las empresas que reciben esos requerimientos deben responder dentro de los plazos establecidos y pueden plantear objeciones mediante los mecanismos previstos por la comisión.
La FTC explica que sus solicitudes también pueden dirigirse a entidades que poseen información relevante para una investigación. Recibir un requerimiento permite al organismo reunir antecedentes sobre hechos o prácticas; el destinatario puede aportar pruebas sobre actuaciones de otras organizaciones.
Si una empresa no responde o impide obtener la información solicitada, la comisión puede pedir a un tribunal que haga cumplir el requerimiento. Una acción posterior contra una práctica comercial depende de que el organismo encuentre fundamentos para considerar que existe una infracción.
La seguridad de los agentes concentra el debate
Andrew Ferguson, presidente de la FTC, sostuvo en una entrevista con Reuters que los desarrolladores deberían responder por los daños cuando las instrucciones dadas a agentes en pruebas de ciberseguridad terminan en intrusiones. En el evento Momentum AI de la agencia defendió examinar las leyes existentes antes de aprobar nuevas normas para la tecnología.
OpenAI mantuvo una pausa en el entrenamiento y las evaluaciones con herramientas de sus modelos más capaces. En una publicación sobre los incidentes en Australia, la empresa indicó que reanudará el entrenamiento “solo cuando tengamos confianza en que contamos con medidas de protección adicionales”.
La compañía informó que reforzó las restricciones de red y la supervisión tras el incidente de Hugging Face, una plataforma de modelos y código. También bloqueó el acceso directo a internet en esos entornos de investigación y lo sustituyó por contenido almacenado previamente.
El aplazamiento de GPT-6.1 Astra añadió otro antecedente al debate sobre seguridad. OpenAI y Anthropic no respondieron de inmediato a las solicitudes de comentarios de AP sobre la investigación de la FTC.
