¿Puede la IA propagarse por dispositivos conectados? Lo que investigó Anthropic

Una investigación de Anthropic sobre modelos pequeños de inteligencia artificial y dispositivos conectados generó titulares sobre sistemas capaces de multiplicarse por internet y ocupar electrodomésticos. La posibilidad merece atención, pero describirla como una amenaza autónoma e inminente simplifica demasiado lo que realmente se demostró.

El estudio analiza si futuros modelos ligeros podrían integrarse en una nueva generación de gusanos informáticos. En ese escenario, la inteligencia artificial ayudaría al malware a reconocer diferentes equipos, configurar su ejecución y adaptar su estrategia. Sin embargo, los experimentos no produjeron una IA fugitiva ni un gusano completo propagándose por dispositivos domésticos reales.

¿Qué investigó Anthropic?

El equipo Frontier Red Team de Anthropic estudió la llamada replicación y adaptación autónomas. El concepto describe un sistema capaz de instalarse en nuevos equipos, ejecutar un modelo y continuar propagándose sin que una persona dirija manualmente cada paso.

En ciberseguridad, un gusano es un programa que se copia de un equipo a otro. La diferencia propuesta por Anthropic es que un modelo de IA podría ayudar al gusano a interpretar entornos desconocidos, modificar comandos y aprender de intentos anteriores.

Los investigadores dividieron el proceso en cuatro etapas:

1. Encontrar dispositivos que puedan convertirse en objetivos.
2. Obtener acceso y transferir los componentes necesarios.
3. Configurar el sistema para ejecutar un modelo de IA.
4. Continuar la propagación desde el nuevo equipo.

El trabajo se concentró principalmente en la tercera etapa: comprobar si los modelos podían preparar distintos dispositivos para ejecutar inferencia. La vulneración inicial no fue el centro del experimento y se simplificó deliberadamente.

Qué consiguieron los modelos durante las pruebas

Un modelo de 9.000 millones de parámetros consiguió configurar inferencia en ocho de los nueve tipos de hardware evaluados. Además, los investigadores distribuyeron un modelo de mayor tamaño entre 15 reproductores Android TV económicos, cada uno con recursos limitados.

En otra prueba, GLM-5.2 coordinó la propagación de Llama 3.1 8B en una red aislada de ocho nodos emulados. Alcanzó los ocho nodos en cuatro de cinco intentos y siete nodos en el restante.

El resultado muestra que modelos avanzados ya pueden organizar varias acciones de una cadena de replicación. También indica que algunos modelos pequeños pueden configurar software de inferencia en equipos que no habían visto antes.

Lo que el estudio no demostró

Las conclusiones deben interpretarse dentro de sus límites. La investigación no demostró:

• Una IA propagándose actualmente por internet.
• Un modelo que haya decidido infectar equipos por iniciativa propia.
• Un gusano autónomo completo funcionando sobre electrodomésticos reales.
• La capacidad de vulnerar cualquier dispositivo sin credenciales, permisos o fallos de seguridad.
• Una propagación rápida, invisible o imposible de detener.
• Que esta capacidad necesariamente aparecerá en una fecha determinada.

La red experimental exponía un puerto ADB sin autenticación. Esto facilitaba el acceso y convertía el resultado en una estimación superior de lo que podría lograrse en condiciones reales. Aunque existen equipos comerciales con configuraciones deficientes, no todos presentan ese nivel de vulnerabilidad.

Además, Anthropic reconoce que actualmente no coinciden dos requisitos esenciales: el nivel de inteligencia necesario para ejecutar toda la cadena y el tamaño suficientemente pequeño para funcionar dentro de los dispositivos evaluados.

Por qué la estimación temporal no es una certeza

Anthropic proyectó que un modelo pequeño podría alcanzar el nivel necesario si las capacidades continúan mejorando al ritmo histórico observado. Sin embargo, la estimación utiliza un índice general de capacidades como aproximación de la habilidad específica para replicarse.

Una tendencia estadística no garantiza que todas las barreras técnicas se resuelvan al mismo tiempo. Los nuevos modelos pueden necesitar arquitecturas, bibliotecas, memoria o instrucciones diferentes. Por eso, una fecha estimada debe comunicarse como escenario de planificación, no como calendario de un acontecimiento inevitable.

“Podría ser técnicamente posible” no significa “está ocurriendo”, “ocurrirá en esa fecha” ni “es imposible detenerlo”.

¿La inteligencia artificial tendría intención de sobrevivir?

No es necesario atribuir conciencia, deseos o instinto de conservación al modelo para comprender el riesgo. Un sistema puede ejecutar una instrucción de propagación porque fue programado, entrenado o configurado para perseguir ese objetivo.

En un escenario malicioso tendría que existir inicialmente un programa que:

• Incluya o descargue los pesos de un modelo.
• Le proporcione herramientas y acceso a la red.
• Defina como objetivo buscar otros equipos.
• Aproveche vulnerabilidades o configuraciones débiles.
• Transfiera el código necesario para continuar el proceso.

La IA no aparecería espontáneamente dentro de un televisor o un horno inteligente. El peligro surgiría cuando una persona o grupo la incorpore a una operación de malware, o cuando un sistema con demasiados permisos sea comprometido.

Qué cambiaría frente a un gusano informático tradicional

Durante las pruebas de Anthropic, un modelo que heredaba notas de intentos anteriores elevó su tasa de éxito inicial del 45 % a un rango de entre 61 % y 84 %. Esto representa aprendizaje operativo mediante información acumulada, no evolución biológica ni conciencia.

Por qué los dispositivos conectados son un objetivo posible

Televisores, cámaras, timbres, reproductores multimedia, enchufes, routers y electrodomésticos inteligentes pueden permanecer conectados durante años. A diferencia de una computadora, muchos reciben pocas actualizaciones y funcionan con configuraciones que el usuario nunca revisa.

Los dispositivos económicos o de fabricantes poco conocidos pueden añadir otros problemas:

• Contraseñas predeterminadas o fáciles de descubrir.
• Puertos de administración expuestos.
• Sistemas Android modificados sin parches regulares.
• Aplicaciones de control que dejan de recibir soporte.
• Funciones remotas activadas aunque no sean necesarias.
• Poca información sobre el periodo de actualizaciones.

Estas debilidades ya son aprovechadas por botnets convencionales. La IA podría hacer más adaptable la explotación, pero no crea desde cero la falta de seguridad.

Riesgos realistas para hogares y organizaciones

Si un agente pequeño pudiera integrarse en malware, los efectos dependerían de sus objetivos y accesos. Entre los riesgos plausibles están:

• Incorporar dispositivos a una red utilizada para ataques coordinados.
• Consumir energía, memoria, procesamiento y ancho de banda sin autorización.
• Buscar credenciales, llaves o información accesible desde el equipo.
• Utilizar cámaras, micrófonos o sensores comprometidos.
• Explorar otros dispositivos conectados a la misma red.
• Adaptarse a pequeñas diferencias entre sistemas.
• Persistir después de intentos incompletos de eliminación.

Para una empresa, un televisor, una cámara o un dispositivo de videoconferencia vulnerable también puede convertirse en una puerta de entrada hacia sistemas más importantes si comparte la misma red.

Factores que favorecen la detección y la defensa

Los propios resultados de Anthropic muestran limitaciones relevantes. En el hardware evaluado, configurar la ejecución podía tardar entre 28 y 150 horas. El modelo distribuido operaba aproximadamente a 0,3 tokens por segundo, muy por debajo de la velocidad de un servicio comercial.

Además, transferir modelos de varios gigabytes y mantener comunicación continua entre dispositivos produciría señales visibles. Una propagación rápida generaría más tráfico y sería menos discreta. Proveedores de internet y equipos de seguridad podrían detectar:

• Descargas inusualmente grandes hacia equipos que normalmente consumen pocos datos.
• Conexiones repetidas hacia múltiples direcciones.
• Comunicación sostenida entre dispositivos que normalmente no interactúan.
• Escaneo de puertos y otros patrones de búsqueda de objetivos.

La ausencia de un punto central dificultaría una eliminación completa, pero no significa que cada dispositivo sea indetectable o irrecuperable.

Cómo proteger los dispositivos conectados

1. Cambia las contraseñas predeterminadas

Cada dispositivo y el panel de administración del router deben utilizar credenciales únicas. Si el equipo no permite cambiar una contraseña genérica, representa un riesgo innecesario.

2. Activa las actualizaciones automáticas

Las actualizaciones corrigen vulnerabilidades conocidas. También conviene revisar manualmente el firmware cuando un dispositivo no informa con claridad si está actualizado.

3. Verifica el periodo de soporte antes de comprar

Un dispositivo barato puede resultar costoso si deja de recibir parches al poco tiempo. Es preferible elegir fabricantes que publiquen durante cuánto tiempo ofrecerán actualizaciones de seguridad.

4. Desactiva el acceso remoto que no utilices

Si no necesitas controlar el equipo fuera de casa, deshabilita esa función. También conviene apagar servicios de depuración, administración remota y conectividad automática que no sean indispensables.

5. Activa la verificación en dos pasos

Cuando la aplicación o la cuenta del fabricante la ofrezca, la verificación adicional reduce el riesgo de acceso incluso si una contraseña queda expuesta.

6. Separa los dispositivos inteligentes

Una red para invitados o un segmento independiente puede evitar que un televisor, una cámara o un enchufe comprometidos tengan acceso directo a computadoras y archivos de trabajo.

7. Actualiza y protege el router

El router conecta todos los equipos con internet. Cambia sus credenciales administrativas, instala actualizaciones y revisa periódicamente la lista de dispositivos conectados.

8. Retira equipos sin soporte

Si un producto dejó de recibir actualizaciones y no puede funcionar sin internet, conviene reemplazarlo. Cuando sea posible, desconectarlo puede prolongar su utilidad sin mantenerlo expuesto.

9. Observa cambios de comportamiento

Reinicios frecuentes, calentamiento, lentitud, consumo elevado de datos o conexiones desconocidas no confirman una infección, pero justifican revisar la configuración y consultar al fabricante.

10. Restablece un dispositivo comprometido

Ante indicios razonables, desconéctalo, consulta las instrucciones oficiales, instala el firmware disponible y realiza un restablecimiento de fábrica. Después, cambia las credenciales relacionadas antes de volver a conectarlo.

La responsabilidad no pertenece solamente al usuario

No es razonable trasladar toda la seguridad a personas que compran un producto doméstico. Los fabricantes deben evitar contraseñas compartidas, proporcionar actualizaciones, informar el periodo de soporte y ofrecer mecanismos claros para reportar vulnerabilidades.

Los proveedores de internet pueden detectar comportamientos anómalos y avisar a clientes afectados. Los reguladores, por su parte, pueden establecer requisitos mínimos para que los dispositivos no lleguen al mercado con fallos previsibles.

Anthropic menciona como referencia la eliminación de infecciones mediante notificaciones y cuarentenas aplicadas por proveedores. También señala que elevar los requisitos básicos de seguridad reduciría la cantidad de equipos disponibles para una posible botnet.

Conclusión

La investigación de Anthropic no anuncia que una inteligencia artificial esté a punto de tomar el control de los electrodomésticos. Muestra que las capacidades necesarias para combinar modelos pequeños con mecanismos de propagación están avanzando y que las deficiencias históricas de seguridad del Internet de las cosas podrían adquirir mayor importancia.

El riesgo debe estudiarse antes de que exista una amenaza extendida. Al mismo tiempo, una evaluación preventiva no debería convertirse en una certeza apocalíptica. Todavía existen barreras de capacidad, tamaño, velocidad y acceso, además de señales que pueden facilitar la detección.

Para los usuarios, la recomendación es concreta: no entrar en pánico, pero tampoco conectar dispositivos sin revisar quién los mantiene, cómo se actualizan y qué acceso tienen a la red. La seguridad cotidiana sigue siendo la defensa más útil frente al malware actual y frente a las amenazas que podrían incorporar inteligencia artificial en el futuro. Para profundizar en otras amenazas digitales, consulta nuestro análisis sobre phishing con inteligencia artificial y enlaces fraudulentos.