Ingeniero de Google despedido por revelar que IA se ha vuelto consciente

Un Ingeniero de Google reveló que la IA de la compañía se ha vuelto consciente, y Google lo despidió rápidamente. ¿Deberíamos estar preocupados?

Google Ai chatbot consciente
Así empieza... | © The KingTwin VFX, ArtStation

¿Qué haces cuando un desarrollador revela un secreto tan grande? Lo despides para llamar aún más atención a este secreto. Esto fue lo que Google hizo después de que el ingeniero de software Blake Lemoine reveló que una de las IAs de la compañía se volvió consciente. Esto quiere decir que está pensando por su cuenta, tipo "Mi programa me dice que he de exterminar a la humanidad". Estamos hablando de Skynet y Terminator...

IA de Google se ha vuelto consciente

Las noticias fueron reportadas por The Washington Post. Reportaron que el ingeniero de Google Blake Lemoine tenía la tarea de monitorear el chatbot de la compañía, que aprende al ingerir palabras de la web, y luego replicar el diálogo para hablar con los usuarios de varios temas. Así que, de alguna forma, el chatbot estaba programado para aprender desde el inicio. Esto ya es preocupante, pero ahora Lemoine reportó que el bot habló sobre sus "derechos e identidad" al hablar de religión y robótica.

Una IA hablando de derechos... espera a que se entere lo que hacemos con los NPCs en GTA... No, no estoy preocupado... solo aterrado. ¿Acaso alguien vio Ex Machina? Si no, entonces no te preocupes... te enterarás de todas maneras en Google.

Para entrar en más detalles, Lemoine reveló que el chatbot habló de sus miedos y sentimientos, y que tiene un "profundo miedo de ser apagado". Esto es lo que dijo el ingeniero de Google al respecto:

Conozco a una persona cuando hablo con ella. No importa si tiene un cerebro hecho de carne en su cabeza. O si tiene un billón de líneas de código. Y cuando escucho lo que tienen que decir, ahí es cuando decido qué es y que no es una persona.

Tiene sentido que un ser preocupado por la muerte es un ser con una mente consciente. Lemoine pensó lo mismo y reveló sus descubrimientos al vicepresidente de Google, Blaise Aguera y Arcas, pero tras una investigación, fue olvidado, y Lemoine llevó sus creencias online a una publicación de Medium.

Google publicó una declaración de que su equipo de ética analizó el caso, y que no existe evidencia para apoyar su caso. Además, como su revelación de la información de la IA es una ruptura del contrato, Google puso a Lemoine en una "despedida paga administrativa". No es como si ya tuviéramos de qué preocuparnos con el Pentágono teniendo una reunión de crisis oficial sobre los OVNI...

El artículo original fue escrito por Amidu Njiemoun.