El Concejo Municipal de Nueva York sentará este lunes bajo juramento a altos ejecutivos de Anthropic, OpenAI, Google y Meta durante una audiencia de supervisión cuyo objetivo es examinar los riesgos y desafíos de seguridad que genera el avance de la inteligencia artificial.
La sesión, convocada por la presidenta del Concejo, Julie Menin, obligará a las empresas tecnológicas a exponer con detalle sus protocolos de seguridad, así como a fijar posición sobre un conjunto de iniciativas legislativas con las que la ciudad aspira a colocarse a la vanguardia de la regulación de estos modelos.
Según la información divulgada por la cadena CNBC, Anthropic acudirá representada por Logan Graham, responsable de su equipo Frontier Red Team, mientras que OpenAI enviará a Morgan Dwyer, directora de desarrollo de políticas y operaciones. Por su parte, Google estará presente a través de Alice Friend, directora de políticas de IA y tecnologías emergentes, y Meta mediante Shane Cahill, director de políticas de IA para legislación.
El paquete normativo sometido a debate incluye una de las medidas más llamativas, que es una regla que exigiría a los modelos de inteligencia artificial desplegados o comercializados en la ciudad contar con validaciones realizadas por terceros independientes y disponer de un mecanismo técnico que permita a un operador humano desconectarlos o apagarlos de forma manual. El incumplimiento de estas obligaciones podría acarrear multas civiles de hasta 25.000 dólares.