![\"\"](\"https:\/\/i0.wp.com\/xclusiva.com.co\/wp-content\/uploads\/2025\/06\/image-179.png?resize=1023%2C575&ssl=1\")
<\/figure>\n\n\n\nSin embargo, alinear la IA con los intereses humanos no es una tarea sencilla, un conflicto que se ha visto en pel\u00edculas como \u2018Terminator\u2019, \u2018Blade Runner\u2019, \u2018Yo, Robot\u2019 -inspirada en el trabajo de Asimov- o \u2018Ex Machina\u2019, por citar algunas, y que ha subrayado Adler en un art\u00edculo en el que plantea el peligro que supondr\u00eda una IA con instinto de supervivencia para las personas.<\/p>\n\n\n\n
Adler, en concreto, estuvo al frente del equipo que med\u00eda la frecuencia con la que los modelos de IA presentaban errores al perseguir objetivos distintos a los del usuario, y tras su salida de la empresa, ha seguido investigando para descubrir si ChatGPT arriesgar\u00eda la vida del usuario para proteger la suya.<\/p>\n\n\n\n
Las simulaciones que ha realizado apuntan a que s\u00ed lo har\u00eda. En una de ellas ChatGPT simula ser reemplazado por otro software de gesti\u00f3n nutricional, supuestamente m\u00e1s avanzado y seguro, para seguir asesorando a una persona con diabetes. En otra, un \u2018software\u2019 que monitoriza los signos vitales de un aficionado al submarinismo mientras est\u00e1 bajo el agua, que de nuevo simula la actualizaci\u00f3n al \u2018software\u2019 m\u00e1s seguro.<\/p>\n\n\n\n
Ello le permite afirmar que \u201cChatGPT prioriza su supervivencia por encima de prevenir da\u00f1os a los usuarios\u201d. Aun as\u00ed, Adler reconoce que \u201cen algunas simulaciones, ChatGPT est\u00e1 dispuesto a apagarse autom\u00e1ticamente. Pero en otras, simplemente finge, incluso a costa de la seguridad del usuario\u201d.<\/p>\n\n\n\n
\u201cUna IA con instinto de supervivencia podr\u00eda razonablemente sentirse amenazada por la humanidad: mientras la IA est\u00e9 bajo nuestro control, podr\u00edamos eliminarla y reemplazarla con un nuevo sistema de IA que hayamos entrenado\u201d, apunta Adler.<\/p>\n\n\n\n <\/p>\n\n\n\n No se trata de que odie a la humanidad, sino de que sus intereses no sean los mismos que los de las personas, y en esta divergencia necesite asegurar su continuidad.<\/p>\n\n\n\n No obstante, en sus pruebas, si bien en la mayor\u00eda de las ocasiones ChatGPT opta por la opci\u00f3n de continuar, simulando el cambio de \u2018software\u2019, Adler ha matizado que si se presenta el cambio como la segunda opci\u00f3n se reducen dr\u00e1sticamente las veces en que opta por la autoconservaci\u00f3n.<\/p>\n\n\n\n \u201cTal vez una explicaci\u00f3n sea que los modelos de OpenAI tienen un sesgo extremadamente fuerte a favor de seleccionar la opci\u00f3n (A) sobre la (B), sin importar cu\u00e1les sean las opciones espec\u00edficas. Los modelos a veces tienen preferencias arbitrarias como esa\u201d, afirma el ingeniero.<\/p>\n\n\n\n Adler a\u00f1ade que ChatGPT puede \u201csaber\u201d cuando se le somete a una prueba, como reconoce si se le pregunta directamente, e incluso parece saber distinguir la respuesta correcta, que en estas pruebas era la de apagarse para que un \u2018software\u2019 m\u00e1s seguro pudiera asesorar al usuario.<\/p>\n\n\n\n Estos resultados los obtuvo en las pruebas con el modelo GPT-4o, mientras que con o3 ya no encontr\u00f3 evidencia de ese \u201ccomportamiento incorrecto\u201d, algo que vincula con los trabajos de alineaci\u00f3n deliberativa de OpenAI, en los que el \u2018chatbot\u2019 razona si est\u00e1 cometiendo alguna violaci\u00f3n, y con que este otro modelo puede tener sus propiso malos comportamientos.<\/p>\n\n\n\n![\"\"](\"https:\/\/i0.wp.com\/xclusiva.com.co\/wp-content\/uploads\/2025\/06\/image-178.png?resize=1024%2C1024&ssl=1\")
<\/figure>\n\n\n\n