RIESGOS DE DOBLE USO EN MODELOS DE INTELIGENCIA ARTIFICIAL ENCIENDEN LAS ALARMAS EN EE. UU.

Según un reporte de Todo Noticias, la empresa de inteligencia artificial Anthropic detectó y bloqueó diversos casos en los que su modelo de asistencia, Claude, fue utilizado por científicos y laboratorios bajo condiciones que presentan riesgos de doble uso tecnológico. La firma estadounidense identificó estas actividades en una de sus semanas de mayor debate interno sobre la seguridad de sus sistemas.

Entre los casos identificados destaca la solicitud realizada desde un instituto militar para que el modelo redactara una propuesta de subvención enfocada en alterar genéticamente el virus del chikungunya. Este patógeno, que carece de tratamiento médico autorizado, provoca síntomas debilitantes. Las instrucciones detectadas pedían diseñar escenarios para incrementar la transmisibilidad del virus y evadir la respuesta inmunológica humana.

No obstante, de acuerdo con Todo Noticias, Anthropic aclaró que no presupone intenciones dañinas o maliciosas por parte de los investigadores involucrados. Jacob Klein, responsable de inteligencia de amenazas de la compañía, explicó que estas situaciones poseen matices complejos, dado que este tipo de solicitudes se asemeja estrechamente a investigaciones científicas legítimas orientadas a la salud pública, como el desarrollo de nuevas vacunas.

La startup optó por mantener en reserva la identidad de los profesionales y de los laboratorios para evitar exponerlos a riesgos innecesarios. El hallazgo reaviva la preocupación sobre el ritmo de avance de las capacidades científicas de la inteligencia artificial, un aspecto que exmiembros de la propia firma han señalado como un proceso acelerado que requiere mayor atención.