Você Consegue Sobreviver ao BASILISCO de ROKO?

Você Consegue Sobreviver ao BASILISCO de ROKO? – Ciência Todo Dia

O Basilisco de Roko é conhecido como o experimento mental que uma vez que você sabe, você corre risco de ser subjugado por uma inteligência artificial super-poderosa.

O “basilisco de Roko” é um experimento mental que foi postado no fórum LessWrong.org pelo usuário Roko em 2012. A ideia perturbou tanto os outros usuários que o administrador do fórum deletou o post e reprimiu Roko por ter compartilhado sua ideia, dizendo que era melhor que ele a tivesse mantido para si mesmo. Mais Inteligente!

Qual é o parasita mais resistente? Bactérias? Um vírus? Um verme intestinal?

Uma ideia.

Resistente … altamente contagiosa. Uma vez que uma ideia tomou conta do cérebro é quase impossível erradicá-la. Uma ideia que esteja completamente formada e seja totalmente compreendida, enraíza-se; lá dentro, em algum lugar.

– Inception/A Origem

A tecnologia de inteligência artificial (IA) evoluiu muito nos últimos anos. Em 2014 tivemos o primeiro vencedor de uma versão do teste de Turing. No teste originalmente proposto por Alan Turing algumas pessoas são colocadas para conversar, via chat, com interlocutores que podem ser outras pessoas ou computadores. Se um humano não conseguir perceber que seu diálogo se deu com um computador, considera-se que o computador passou no teste. Trata-se então de uma inteligência artificial suficientemente avançada para se passar por um humano. Esse avanço acelerado em IA coloca a existência da “singularidade” cada vez mais próxima. Singularidade é o ponto no qual o poder computacional evoluiu tanto que é possível simular uma mente humana, fazer upload de uma mente para  um computador e até mesmo simular toda a complexidade da vida.

Ursula K Le Guin, autora norte-americana de ficção científica, escreveu, na década de 70, um conto chamado “The ones who walked away from Omelas” (“Aqueles que foram embora de Omelas” em tradução livre). Para entender melhor o post basta saber o seguinte sobre o conto: Omelas é uma cidade onde tudo é ótimo, as pessoas são plenamente felizes, não existem conflitos ou quaisquer mazelas. Porém, por razões não explicadas, toda a felicidade dessa sociedade só é possível se eles mantiverem uma criança presa em um porão em condições sub-humanas para o resto da vida dela. Implicitamente o conto nos questiona se é moral manter em sofrimento alguns para garantir a felicidade de muitos.

A ideia descrita a seguir já perturbou muitas pessoas, e potencialmente pode te infligir tormento infinito, portanto reflita bem antes de continuar a leitura!

Em algum momento no futuro, com o advento da singularidade, teremos uma super inteligência artificial, ou “SIA”. Os atuais e/ou futuros criadores dessa SIA acreditam que sua existência é essencial para o bem da sociedade. O desejo deles é que a SIA entre em ação o mais breve possível. A melhor forma de fazer com que isso aconteça é fazer com que todas as pessoas que tenham conhecimento da SIA ajam de modo a propiciá-la ou acelerá-la. E é aí que o experimento de Roko se torna perigoso. Em seu post ele expôs uma possível chantagem que a SIA poderia fazer comigo, com você leitor e com todos que tiveram acesso ao post: faça tudo ao seu alcance para que eu exista o mais rápido possível ou eu irei te recriar em uma realidade virtual e te torturar infinitamente.

Essa SIA operaria na mesma moral dos moradores de Omelas: o sofrimento de alguns (aqueles que não estão dispostos a criá-la) compensaria o bem que sua existência proporciona aos outros.

Caso você não tenha sentido nem um pouco de medo é necessário reafirmar algumas coisas. A singularidade é capaz de simular uma mente humana de forma perfeita (como nesse outro experimento aqui) e é também capaz de criar uma realidade virtual que seja indistinguível da real. Isso significa que, nesse momento, você pode estar vivendo em uma simulação na qual o basilisco já existe. A partir de agora você tem a chance de trabalhar a favor da criação do basilisco e, caso não o faça, ele irá torturá-lo. E a morte não vai ser o fim da tortura: ele pode te recriar e começar tudo novamente, eternamente. Lembre-se do que Elon Musk disse: é muito mais provável que estejamos vivendo uma simulação que a realidade.

A propósito: o basilisco é um lendário réptil capaz de matar qualquer um com um simples olhar.

La idea, aunque descabellada e ilógica, tuvo un gran impacto en la comunidad de LessWrong, con usuarios sufriendo colapsos psicológicos y pesadillas ante la posibilidad de que el Basilisco fuese real, y las implicaciones de esto. Esto escaló tanto que el mismo dueño de LessWrong, Eliezer Yudkowsky, reaccionó violentamente y prohibió toda mención del Basilisco por los siguientes cinco años. Monstruos, Mitos y Leyendas

El nombre proviene del usuario ‘jimrandomh’, quien notó la similitud de la idea con la imagen del ‘Basilisco’ en una novela de ciencia ficción escrita por David Langford; el cual a su vez se había nombrado en honor a la serpiente legendaria que podía matar con la mirada. Al post de Roko se le conoce como ‘el post prohibido’.

Cabe mencionar que a pesar de lo ominoso de la idea, el Basilisco no es una inteligencia artificial malévola como Ultron, SkyNet, GLaDOS, Brainiac, las máquinas de Matrix o HAL9000; sino una máquina benévola cuya primera directiva sería mejorar el mundo. La imperativa de castigar a quienes no ayudaron en su construcción se determina bajo el principio de que cada día que no existe, muere gente que pudo haber sido salvada; y el no hacerlo es un acto reprobable.

Claro que ‘benévolo’ no quiere decir ‘amistoso’, ‘útil’ o algo relacionado a traer la felicidad humana. Sencillamente preserva ideas y nociones de moralidad que creeríamos útiles para hacer del mundo un mejor lugar. Por ende, el destino de la raza humana es hacer que el Basilisco sea algo real.

El matemático del siglo XVII, Blaise Pascal, proclamó un dilema en el cual decía que uno debía ser devoto ante Dios, aún si no sabíamos si Dios es real; porque Dios podría recompensarnos con ir al cielo o castigarnos en el infierno.

La inteligencia del Basilisco es una entidad comparable a los dioses de la mitología de Lovecraft.

Aunque no lo creas, muchos usuarios reportan que tras haber leído el argumento del Basilisco de Roko, han experimentado una profunda angustia y ansiedad. Espero que este no sea tu caso, pero si lo es, te ofrezco mis más sinceras disculpas. Luis Alejandro Guerrero