Dario Amodei, máximo responsable de Anthropic, ha manifestado públicamente su respaldo a la implementación de mecanismos que permitan a los gobiernos controlar y, si es necesario, bloquear modelos de inteligencia artificial considerados de alto riesgo. Esta postura busca abordar las preocupaciones sobre la seguridad y el uso indebido de tecnologías de IA cada vez más potentes.
Amodei sugiere que, si bien la innovación en IA es crucial, debe ir de la mano con salvaguardas robustas. La capacidad de los gobiernos para intervenir en casos de riesgo inminente podría ser una herramienta fundamental para prevenir posibles daños y garantizar un desarrollo tecnológico responsable.
Las declaraciones de Amodei reflejan una creciente conciencia dentro de la industria de la IA sobre la necesidad de una gobernanza más estricta y colaborativa entre empresas y reguladores. La propuesta de Amodei abre un debate sobre el equilibrio entre el avance tecnológico y la protección de la sociedad frente a los riesgos emergentes de la inteligencia artificial.