El texto anticipó varias preocupaciones de seguridad de la IA moderna, incluida la posibilidad de que la conciencia de las máquinas, la autorreplicación y los humanos pierdan el control de sus creaciones tecnológicas. Estos temas aparecieron más tarde en obras como Isaac Asimov. El conflicto evitable y las películas de Matrix.
La carta de Butler profundizó en la taxonomía de la evolución de las máquinas, discutiendo «géneros y subgéneros» mecánicos y señalando ejemplos como cómo los relojes habían evolucionado a partir de «relojes complicados del siglo XIII», sugiriendo que, como algunos vertebrados primitivos, las especies mecánicas podrían se hacen más pequeños a medida que se vuelven más sofisticados. Amplió estas ideas en su novela de 1872. Erewhonque representaba una sociedad que había prohibido la mayoría de los inventos mecánicos. En su sociedad ficticia, los ciudadanos destruyeron todas las máquinas inventadas en los 300 años anteriores.
Las preocupaciones de Butler sobre la evolución de las máquinas recibieron reacciones encontradas, según Butler en el prefacio de la segunda edición de Erewhon. Algunos críticos, dijo, interpretaron su trabajo como un intento de satirizar la teoría evolutiva de Darwin, aunque Butler lo negó. en un carta a darwin En 1865, Butler expresó su profundo aprecio por El origen de las especiesescribió que lo «fascinó completamente» y explicó que había defendido la teoría de Darwin contra los críticos de la prensa de Nueva Zelanda.
Lo que hace que la visión de Butler sea particularmente notable es que estaba escribiendo en un contexto tecnológico muy diferente cuando los dispositivos informáticos apenas existían. Mientras Charles Babbage había propuesto su teoría Motor analítico en 1837 (una computadora mecánica que utilizaba engranajes y palancas y que nunca se construyó durante su vida), los dispositivos de cálculo más avanzados de 1863 eran poco más que calculadoras mecánicas y reglas de cálculo.
Butler extrapoló las cosas a partir de las máquinas simples de la Revolución Industrial, donde la automatización mecánica estaba transformando la fabricación, pero no existía nada parecido a las computadoras modernas. El primera computadora controlada por programa en funcionamiento no aparecería hasta dentro de 70 años, lo que hace que sus predicciones sobre la inteligencia artificial sean sorprendentemente proféticas.
Algunas cosas nunca cambian
El debate que inició Butler continúa hoy. Hace dos años, el mundo se enfrentó a lo que podríamos llamar el «gran susto de adquisición de IA de 2023». OpenAI GPT-4 acababa de ser liberado, y los investigadores evaluado su «comportamiento de búsqueda de poder», haciéndose eco de las preocupaciones sobre la posible autorreplicación y la toma de decisiones autónoma.
El lanzamiento de GPT-4 inspiró varias cartas abiertas firmadas por investigadores de inteligencia artificial y ejecutivos de tecnología que advierten sobre su potencial. riesgos a nivel de extinción que plantea la inteligencia artificial avanzada. Una de las cartas, que recuerda los temores sobre armas nucleares o pandemias, pidió una pausa global sobre el desarrollo de la IA. Casi al mismo tiempo, el director ejecutivo de OpenAI, Sam Altman testificó sobre los peligros de la IA frente al Senado de Estados Unidos.
