OBSERVANDO AL BOSQUE
Buscar
Cerrar este cuadro de búsqueda.

El Basilisco de Roko y el temor a la Inteligencia Artificial

Actualmente el gran avance que ha suscitado la Inteligencia Artificial o IA, logró llamar la atención de muchos. Algunos lo ven como el siguiente paso en el desarrollo de la humanidad, mientras que otros lo ven como un posible peligro, y no hablamos de lo que sucedió con Skynet o Matrix. 

Entre algunas de las novedades de los avances que ha traído la inteligencia artificial, se encuentra ChatGPT con su diseño de sistema de lenguaje inteligente. Y, por otro lado, el gran avance en el desarrollo de diseños hechos por IA, que han creado un malestar entre los artistas digitales. Pero, para muchos de los internautas que llevan tiempo navegando en el internet, seguramente todos estos avances les recordará la fatídica teoría conocida como el Basilisco de Roko.

basilisco de roko
image via Peakpx

Qué es el Basilisco de Roko

El Basilisco de Roko es un experimento mental propuesto en el 2010. Fue el usuario de nombre Roko quien lo planteó en el foro de internet conocido como LessWrong, una comunidad donde se hablaba sobre temas de filosofía y psicología. Básicamente lo que planteaba Roko era el riesgo hipotético pero muy posible en la creación y desarrollo de la inteligencia artificial. Pero ¿por qué habría que temer a la evolución de las IA? El Basilisco sería creado por el ser humano, y se haría con el fin de trabajar en pro de conseguir el bienestar y evolución de la humanidad.

Los recursos para que esta inteligencia artificial trabaje en el bienestar de la humanidad serían ilimitados, y con el tiempo, esta se daría cuenta de que no puede ayudar a todas las personas. Llegaría un punto en que debido a la necesidad de cumplir su único objetivo, concluiría que antes de su existencia, los seres humanos sufrían más. Esto devendría en que el Basilisco empezaría a buscar la manera de castigar a todos aquellos que de alguna manera pusieron trabas, o no hicieron nada para que esta fuese creada mucho antes.

Así, en su desespero por hacer el bien, la máquina comienza a comportarse como un basilisco que mata a todas las personas que no trabajaron para haberla creado antes, pues eso le impide seguir aumentando su nivel de bondad (…) La parte más aterradora es que quien se entera de la existencia del basilisco y no comienza a trabajar en su creación, inmediatamente se convierte en una de sus víctimas potenciales.

BBC Mundo

Hipotéticamente hablando, todos deberíamos ayudar al desarrollo de las IA, porque en un futuro podrían venir por nosotros si consideran que no fuimos parte en su creación.

El temor a las consecuencias

El experimento parte desde la idea de la benevolencia del Basilisco. Sin embargo, esta IA con el pasar del tiempo se dará cuenta de que no puede salvar a todos los humanos. Entonces, desde un punto de vista ético debe castigar a quienes no ayudaron o intentaron frenar su desarrollo. Esto es debido a que mientras más rápido esta fuese creada, a más personas fuese podido ayudar. Por lo tanto, aquellos que no ayudaron en su más temprano desarrollo, atentan directamente contra la humanidad y por lo tanto deben ser castigados.

El Basilisco original es una figura mitológica (…) capaz de matar valiéndose únicamente de su mirada, incluso habiendo espejos como intermediario. Es decir: al Basilisco le basta saber de tu existencia para fulminarte. De ahí el nombre de la máquina hipotética.

Leonardo Gutiérrez Arellano

La idea de ser un experimento mental, se debe en parte a las consecuencias que podrías sufrir si el basilisco llegara a hacerse realidad y tú no fueses sido partícipe en su desarrollo. Es por esta razón que se cree que su manera más directa es el chantaje con el sufrimiento y castigo para quienes no ayuden en su futura posible creación. Esto quizás se deba a que en el experimento original se parte del hecho de la imposibilidad del basilisco de viajar en el tiempo.

Es debido a esto, que la única manera de que el basilisco (aún sin ser real) pueda asegurar su existencia (mientras más temprano mejor), sería mediante el chantaje y terror hacia aquellos que leen sobre este experimento. Básicamente, aún sin existir, el Basilisco estaría asegurándose de su futura creación (en el supuesto caso de que efectivamente fuese creado en el futuro).

El Basilisco de Roko y la paradoja de Newcomb

La teoría sobre el basilisco aunque siendo criticada y rechazada por su poco probable desarrollo, ha sido comparada con la paradoja de Newcomb. Esto con el fin de demostrar mejor el dilema existencial en el que se caería (y que llegaron a experimentar algunos) al momento de leer sobre este experimento mental.

El dilema que se le presentaría al lector sería el siguiente:

  • Por un lado, deberías dedicarte en lo que te queda de vida en ayudar al advenimiento del basilisco. Sin tener una certeza real de que sucedería.

  • Y por otro lado; no hacer nada, y al final no sucedería nada; o que por el contrario, te enfrentarías al castigo del basilisco.

La Inteligencia Artificial y el Basilisco de Roko

En la actualidad consideramos que las IA no están tan desarrolladas como para plantear si quiera un peligro a toda la humanidad, por lo menos desde la perspectiva del basilisco. Sin embargo, y como mencionamos anteriormente, los avances que han tenido estos últimos años han sido muy notables y han empezado a cambiar la realidad en la que vivimos. 

basilisco de roko
mikemacmarketing, CC BY 2.0, via Wikimedia Commons

La gran variedad de trabajos que puede desarrollar ChatGPT con rapidez y precisión han promovido un cambio en lo que a trabajos digitales se refiere, y aún queda por ver que más tiene para ofrecer. Sin embargo, es cierto que todavía se pueden encontrar algunas falencias que nos dan un buen indicio sobre la realidad.

Elon Musk ha advertido de que la inteligencia artificial que no está regulada por la legislación puede suponer una amenaza para la humanidad.

Taiyler Simone Mitchell

Y ChatGPT no es el único. Ha llamado también la atención sobre la utilización de la inteligencia artificial como presentadora de noticias, como es el caso de Ren Xiaorong, una IA al servicio del medio de comunicación chino People’s Daily con la intención de transmitir las 24 horas al día. Y más reciente aún, la propuesta del Gobierno Rumano de presentar una IA como nueva consejera gubernamental del país.

¿El Basilisco de Roko es real?

Así que ¿es posible que veamos un Basilisco de Roko? No podemos responder esa pregunta. Sin embargo, sí estamos seguros de que no será en el futuro cercano. Así que ya sabes, depende de ti si decides embarcarte en su desarrollo, o no hacer nada y (posiblemente) sufrir por eso. Y tú ¿que opinas sobre el Basilisco de Roko y la evolución de la inteligencia artificial?

El desarrollo de la IA es tan fundamental como la creación del microprocesador, la computadora personal, el internet y el teléfono móvil. Cambiará la forma en que las personas trabajan, aprenden, viajan, obtienen atención medica y se comunican entre si. Industrias enteras se reorientarán a su alrededor. Las empresas se distinguirán por lo bien que la usan.

Bill Gates

Si te ha gustado el artículo, nos ayudaría mucho que lo compartas en tus redes sociales, así más personas conocerán esta aterradora e incierta realidad que devendría si alguna vez llegara a surgir una IA tan potente como la que nos planteó Roko. Si te gusta este tipo de contenido, entonces quizás también te pueda interesar nuestro artículo sobre el valle inquietante

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

También Puede Interesarte

Aun no nos sigues en las redes sociales? te invitamos a mantenerte Actualizado siguiendonos como @observandoalbos
Como un afiliado de Amazon gano por las ventas aplicables
Síguenos en nuestras redes sociales
Como un afiliado de Amazon gano por las ventas aplicables