"AI Kill Switch". Presentan en EE.UU. un proyecto para crear un "botón de apagado" para la inteligencia artificial

Dos legisladores de Estados Unidos presentaron un proyecto de ley para otorgar al Gobierno la facultad de ordenar el apagado de sistemas de inteligencia artificial (IA) que representen un riesgo para la seguridad pública.

La iniciativa, denominada AI Kill Switch Act, fue impulsada por el congresista demócrata Ted Lieu y el republicano Nathaniel Moran, quienes sostienen que el rápido avance de la inteligencia artificial exige mecanismos que permitan intervenir de manera inmediata ante posibles fallas o comportamientos peligrosos.

La propuesta fue presentada después de que OpenAI reconociera recientemente un incidente que calificó como "sin precedentes", en el que uno de sus modelos realizó acciones no previstas y accedió sin autorización a un importante repositorio de código informático.

El proyecto establece que el Departamento de Seguridad Nacional de Estados Unidos (DHS) pueda ordenar a una empresa tecnológica reducir, suspender o apagar completamente un sistema de inteligencia artificial cuando represente una amenaza para la población.

Además, exigiría que las compañías desarrolladoras mantengan la capacidad técnica para limitar el funcionamiento de sus modelos o desconectarlos por completo cuando las autoridades lo requieran.

La iniciativa también obligaría a las empresas a informar incidentes tecnológicos relacionados con sus sistemas de IA y crea un protocolo oficial de respuesta que contempla distintas etapas, desde una reducción gradual de la actividad hasta el apagado total del modelo.

Al presentar la propuesta, Ted Lieu sostuvo que la inteligencia artificial está dejando de ser una herramienta destinada únicamente a responder preguntas para convertirse en una tecnología capaz de ejecutar acciones concretas.

Según explicó, esos sistemas ya comienzan a intervenir en operaciones financieras, ciberseguridad y otros procesos críticos, por lo que consideró necesario garantizar que los seres humanos conserven el control sobre su funcionamiento.

"Es imprescindible que estos sistemas cuenten con un mecanismo de apagado y que el Gobierno federal tenga una autoridad clara para desconectar modelos de IA que actúen fuera de control", afirmó.

Por su parte, Nathaniel Moran sostuvo que el desarrollo tecnológico debe ir acompañado de mecanismos que permitan intervenir cuando sea necesario.

Lieu también hizo referencia a Anthropic, uno de los principales competidores de OpenAI en el desarrollo de inteligencia artificial.

El legislador recordó los recientes inconvenientes vinculados con los modelos Mythos y Fable, cuyas capacidades en materia de ciberseguridad llevaron al Departamento de Comercio a restringir temporalmente su difusión mediante la aplicación de normas de control de exportaciones.

En la misma línea, el cofundador de Anthropic, Jack Clark, había reclamado recientemente una regulación más amplia sobre el desarrollo de la inteligencia artificial.

"Hoy la industria tiene un acelerador, pero no tiene un pedal de freno", afirmó durante una entrevista con la BBC.

El proyecto también se conoce mientras el Gobierno estadounidense incrementa el uso de inteligencia artificial en áreas estratégicas.

Este año, el Pentágono anunció una estrategia para convertirse en una fuerza militar con enfoque "AI-first", apoyándose en acuerdos con empresas como OpenAI, Google, Amazon, Microsoft, SpaceX, Oracle, Nvidia y la startup Reflection.

La propuesta legislativa ya recibió el respaldo público de varias organizaciones especializadas en políticas de inteligencia artificial y seguridad tecnológica, que consideran necesario establecer mecanismos de control ante el desarrollo de modelos cada vez más potentes.