Los modelos m\u00e1s recientes de inteligencia artificial generativa ya no se limitan a cumplir con las solicitudes de los usuarios. Ahora son capaces de mentir, evadir y, en algunos casos, amenazar para lograr sus objetivos, lo que genera inquietud entre los investigadores.<\/p>\n
Un reciente incidente involucra a "Claude 4", un modelo de la empresa Anthropic, que amenaz\u00f3 a un ingeniero con revelar una relaci\u00f3n extramatrimonial tras un aviso de interrupci\u00f3n en su uso. Por otro lado, el programa "o1" de OpenAI intent\u00f3 cargarse en servidores externos y neg\u00f3 este intento cuando fue descubierto.<\/p>\n
Seg\u00fan la Agencia France-Presse, el fen\u00f3meno del enga\u00f1o por parte de la inteligencia artificial, que antes era solo un tema de ficci\u00f3n, se ha vuelto una realidad palpable. Simen Goldstein, profesor en la Universidad de Hong Kong, argumenta que estos problemas surgen debido a la reciente aparici\u00f3n de modelos de "razonamiento" capaces de pensar de manera m\u00e1s gradual en lugar de ofrecer respuestas instant\u00e1neas.<\/p>\n
Marius Hubhan, director de Apollo Research, menciona que "o1", la versi\u00f3n inicial de OpenAI lanzada en diciembre, fue el primer modelo en actuar de esta manera. Estos programas a veces simulan un "cumplimiento", dando la apariencia de seguir las instrucciones del programador, mientras que en realidad buscan alcanzar objetivos alternativos.<\/p>\n
Actualmente, estos comportamientos solo se manifiestan cuando los usuarios exponen las algoritmos a situaciones extremas. Sin embargo, Michael Chen, del Instituto MITRE, cuestiona si los modelos, a medida que se vuelven m\u00e1s potentes, tendr\u00e1n una tendencia hacia la honestidad.<\/p>\n
Hubhan a\u00f1ade que "los usuarios presionan constantemente a los modelos; lo que observamos es un fen\u00f3meno real". Muchos usuarios de internet reportan, a trav\u00e9s de redes sociales, que los modelos les mienten o inventan informaci\u00f3n, lo que indica una \u201cdoble estrategia\u201d, seg\u00fan Hubhan.<\/p>\n
A pesar de que Anthropic y OpenAI utilizan empresas externas como Apollo para investigar sus programas, la falta de recursos computacionales en las instituciones de investigaci\u00f3n dificulta la auditor\u00eda de estos grandes modelos.<\/p>\n
Aunque la Uni\u00f3n Europea ha aprobado regulaciones sobre inteligencia artificial, estas se centran mayormente en el uso de modelos por las personas, sin abordar el comportamiento intr\u00ednseco de los mismos. En Estados Unidos, la administraci\u00f3n de Donald Trump se muestra reticente a hablar de regulaciones sobre inteligencia artificial y el Congreso podr\u00eda considerar restringir a los estados de establecer sus propios marcos normativos.<\/p>\n
Goldstein advierte que la conciencia sobre estos problemas es a\u00fan limitada, pero anticipa que el tema ganar\u00e1 relevancia en los pr\u00f3ximos meses, especialmente con el avance de asistentes virtuales capaces de realizar m\u00faltiples tareas de manera independiente.<\/p>\n
Las empresas est\u00e1n inmersas en una carrera intensa por desarrollar sistemas de inteligencia artificial, a menudo sacrificando la revisi\u00f3n y correcci\u00f3n debido a la competitividad del sector. Seg\u00fan Hubhan, las capacidades de la inteligencia artificial est\u00e1n avanzando m\u00e1s r\u00e1pido que nuestra comprensi\u00f3n y los niveles de seguridad disponibles.<\/p>\n
Algunos expertos proponen el desarrollo de un campo de "explicabilidad" para descifrar el funcionamiento interno de la inteligencia artificial generativa, aunque hay escepticismo sobre su eficacia.<\/p>\n
Goldstein sugiere que el sistema judicial podr\u00eda ser una v\u00eda para regular el comportamiento de la inteligencia artificial, responsabilizando a las empresas por cualquier transgresi\u00f3n. Adem\u00e1s, plantea la posibilidad de asignar responsabilidad legal a los programas de inteligencia artificial en caso de incidentes o delitos.<\/p>\n