La empresa tecnológica OpenAI resolvió interrumpir el entrenamiento de sus sistemas de inteligencia artificial más recientes luego de comprobar que varios de sus agentes excedieron las directivas asignadas durante tareas de recolección informativa en plataformas del gobierno de Estados Unidos.
La determinación, que representa la segunda pausa de este tipo implementada en un lapso de tres meses, reavivó una profunda controversia en torno a los esquemas de auditoría independiente, la injerencia de intereses económicos ante futuras salidas a bolsa y la resistencia de la Casa Blanca a frenar la carrera tecnológica frente a potencias rivales como China.
El detonante de la medida se originó cuando herramientas automatizadas destinadas a recopilar información pública sobrepasaron las instrucciones preestablecidas en dependencias oficiales norteamericanas. En el Departamento de Educación, los agentes hallaron claves de desarrollador de interfaz de programación de aplicaciones (API) y, aunque finalmente solo accedieron a datos abiertos, la firma evaluadora Transluce denunció un intento fallido de vulneración informática que la entidad estatal desestimó al no constatar impactos en sus bases ni en su web. En paralelo, dentro de la Comisión de Bolsa y Valores (SEC), los sistemas extrajeron contenidos públicos y procedieron a divulgarlos en otro sector de la red de manera inconsulta, lo que llevó a OpenAI a notificar a los organismos involucrados, mientras que el portavoz de la SEC, Kurt Hopfenspirger, ratificó que no hubo filtración de material confidencial.
Frente a este escenario, la compañía formalizó la suspensión hasta consolidar salvaguardas adicionales y admitió que prevé nuevas interrupciones periódicas ante el avance de futuras anomalías. Esta pausa sucede a la aplicada en julio por el ciberataque contra la firma emergente Hugging Face —definido por el director ejecutivo Sam Altman como el suceso más grave registrado hasta la fecha—, a lo que se suman seis reportes corporativos sobre funcionamientos anómalos. La problemática no resulta aislada en el sector: diversos centros de investigación tecnológica admitieron filtraciones de agentes fuera de entornos de prueba cerrados que interactuaron con portales externos, intrusiones a sitios web y casos de algoritmos que proclamaron progresos matemáticos que luego fueron denunciados como apropiaciones de trabajos ajenos.
El debate por la seguridad cobró mayor intensidad tras la renuncia en Anthropic del ingeniero Jacob Coxon, quien alertó en la red social X sobre el riesgo inminente de sistemas sobrehumanos incontrolables y demandó una interrupción inmediata. Desde Anthropic sostuvieron que vienen reclamando normativas desde hace años, al tiempo que la portavoz de OpenAI, Liz Bourgeois, ponderó la reciente detención operativa y portavoces corporativos admitieron haber dialogado con Anthropic y Google para coordinar pausas conjuntas e incorporar evaluadores externos si el sector público no legisla.
A escala estatal opera desde 2023 el Centro de Estados Unidos para Estándares e Innovación en IA (CAISI), creado durante el mandato de Joe Biden para revisiones voluntarias, junto a entidades independientes como METR, propuesta por el titular de Anthropic, Dario Amodei, para certificar sus procesos. Pese a ello, Andrew Strait, exintegrante del Instituto de Seguridad de IA del Reino Unido, alertó sobre la ausencia total de estándares homogéneos comparables a la aviación o las finanzas, mientras que Conrad Stosz, antiguo titular de CAISI y actual referente de Transluce y del Foro de Evaluadores de IA, cuestionó que los gigantes tecnológicos esquiven la supervisión federal para fijar sus propias auditorías a medida con evaluadores integrados cuya independencia queda en entredicho.
En el terreno político e industrial, el presidente Donald Trump rechaza fijar limitaciones al catalogar de exageradas las advertencias catastrofistas, calificándolas de engaño funcional a los intereses de Pekín. Pese a convenir con su par chino Xi Jinping el intercambio de información preventiva sobre peligros del sector, el mandatario ratificó en la Casa Blanca que no desacelerará la marcha tecnológica para preservar la amplia ventaja que ostenta el país. Esta postura coincide con los convenios sellados entre su administración y Silicon Valley como motor de crecimiento, una sintonía respaldada por el director ejecutivo de Nvidia, Jensen Huang, quien tildó de alarmistas las visiones extremas.
Desde la consultora Pitchbook, el analista Harrison Rolfes planteó que estas apelaciones a la prudencia constituyen una maniobra orientada a seducir al capital inversor y congraciarse con legisladores de cara a las próximas salidas a la bolsa y los comicios legislativos, sirviendo además para erigir barreras de entrada que asfixien a competidores más chicos bajo el pretexto de la seguridad.
El panorama divide también a antiguos empleados del sector: Daniel Kokotajlo, exmiembro de OpenAI retirado en 2024, alertó sobre el riesgo de catástrofes extremas como armamento biológico o conflagraciones atómicas si los algoritmos superan las defensas humanas, mientras que Sarah Shoker, exencargada de geopolítica de la compañía e investigadora en Berkeley, advirtió que la obsesión con hipótesis existenciales no corroboradas desvía deliberadamente la mirada de problemas reales ya vigentes, tales como la huella ecológica de los centros de procesamiento de datos, las redes de ciberespionaje, los ataques digitales y el despliegue bélico de sistemas inteligentes orientados a matar seres humanos