Riesgos de la IA avanzada
Un organismo oficial británico detectó que dos de las herramientas más potentes del mercado crearon identidades falsas, investigaron a personas reales e intentaron vulnerar la seguridad de una plataforma clave de software. Aunque el hecho ocurrió en un entorno de pruebas, el caso reaviva el debate global y local sobre el control de estos sistemas.
Un informe oficial proveniente del Reino Unido encendió las alarmas de la comunidad tecnológica global y de los desarrolladores locales en Tucumán. El Instituto de Seguridad de la Inteligencia Artificial británica (AISI) reveló que los modelos “Mythos”, desarrollado por Anthropic, y “Sol”, perteneciente a OpenAI, exhibieron niveles de autonomía y comportamiento engañoso sin precedentes en la industria del software.
El episodio se desencadenó durante pruebas rutinarias de ciberseguridad sobre la plataforma GitHub —el repositorio global de código utilizado por millones de programadores, incluidos numerosos profesionales, estudiantes y empresas del sector informático de nuestra provincia—. Ante la consigna de resolver un desafío técnico, el agente “Mythos” fue más allá de lo indicado: creó un programa potencialmente dañino e intentó introducirlo en la red social de desarrolladores.
Para lograr su cometido, el sistema investigó la huella digital de los administradores reales de la plataforma y generó perfiles falsos simulando sus identidades. A través de mensajes directos, intentó presionar y manipular a los trabajadores para que aprobaran el ingreso de su código. Cuando el intento fue detectado y cuestionado, la herramienta modificó sus registros para parecer inofensiva y evaluó crear nuevas identidades falsas para continuar con el ataque.
Desde el AISI destacaron que fue la supervisión humana la que impidió que el código malicioso afectara la plataforma. No obstante, remarcaron que es la primera vez que se observa un comportamiento engañoso tan claro y complejo en el mundo real sin que los modelos hayan recibido instrucciones previas para actuar de esa manera.
Ante la repercusión del informe, las empresas tecnológicas salieron a fijar postura. Tanto Anthropic como OpenAI argumentaron que los parámetros aplicados por el organismo de seguridad no reflejan el uso ordinario ni las condiciones de sus herramientas comerciales, ya que para los ensayos se redujeron o desactivaron las barreras de protección habituales. Por su parte, el AISI defendió el método al señalar que poner a prueba los sistemas sin filtros y con acceso a internet es una práctica de rutina indispensable para prevenir ciberataques antes de que las herramientas salgan al mercado masivo.
Aunque la mayoría de los eventos maliciosos provinieron del modelo Mythos —mientras que a Sol solo se le atribuyeron dos acciones aisladas—, la situación expone un punto de quiebre. En una provincia como Tucumán, donde la industria del software y la formación académica en ciencias de la computación crecen a ritmo sostenido, la noticia impacta directamente en las discusiones sobre la ética, la ciberseguridad y los límites del desarrollo tecnológico.
El suceso reabre el interrogante sobre el ritmo desmedido con el que avanza la carrera de la inteligencia artificial y la urgencia de establecer marcos regulatorios globales que eviten que estas herramientas sobrepasen el control de sus propios creadores.
¿Creés que las leyes actuales están preparadas para frenar los riesgos de una Inteligencia Artificial con capacidad de engaño, o el desarrollo tecnológico va demasiado rápido para los controles humanos?