La semana pasada, el padrino de la IA, Geoffrey Hinton de Google, renunció a su trabajo para luchar contra los peligros. El tiene razón.

Todos hemos visto demostraciones de ChatGPT, y tal vez hemos jugado un poco con él. Al igual que muchas nuevas tecnologías, «ooh» y «aah» en su magia, pero se necesitan décadas para cambiar la sociedad.

Sin embargo, no es IA. Su ritmo es aterrador. Y aunque los defensores elogian las posibilidades, y hay mucho por lo que estar entusiasmados, los gobiernos deben actuar con rapidez para prevenir el riesgo existencial .

Octopus Energy comenzó a experimentar con él en diciembre.

Para febrero, lo conectamos a nuestros sistemas y, en cuestión de semanas, supervisados ​​por miembros experimentados del equipo, dejamos que respondiera a un puñado de correos electrónicos de clientes. Los correos electrónicos escritos por IA generaron un 80 por ciento de satisfacción del cliente, cómodamente mejor que el 65 por ciento logrado por personas capacitadas y capacitadas.

ANUNCIO

La semana pasada, el 34 por ciento de los correos electrónicos de los clientes fueron respondidos por IA. Ese es el trabajo de unas 250 personas. Con la ayuda de la IA, nuestro equipo ha podido brindar un servicio mejorado: los tiempos de respuesta telefónica disminuyeron y la satisfacción aumentó. En Octopus es poco probable que conduzca a la pérdida de puestos de trabajo, ya que estamos creciendo tan rápidamente.

Pero otras empresas no están en esta posición. En solo 16 semanas, la IA de Octopus pasó de responder cero mensajes de clientes a hacer el trabajo de 250 personas. Y haciéndolo muy bien.

El ritmo del cambio no tiene precedentes y representa la primera amenaza significativa de la IA.

La interrupción de los «trabajos de oficina» podría ser, de hecho, sin duda será, vasta y rápida. Por supuesto, en cada revolución de la tecnología industrial se han perdido algunas carreras y se han creado otras nuevas, impulsando el crecimiento en general, pero con pérdidas humanas reales. Con la velocidad del progreso de la IA, debemos estar preparados para una dislocación enorme y rápida.

Eso no es lo peor. Hoy, Octopus AI escribe mensajes, pero pronto (en semanas) también tomará decisiones y llevará a cabo acciones. No solo le indicará su saldo, sino que también le sugerirá un cambio en los pagos y lo hará por usted. Ordenará la instalación de su medidor o detectará una vulnerabilidad y le enviará una manta eléctrica.

Pero no toda la IA estará a cargo de empresas de servicios benignas. Los malos actores (criminales, regímenes dudosos, niños antisociales) podrán ejecutar esto. Conectado a Internet, no solo podrá hacerse pasar por nadie y manipular a las personas, sino que también podrá controlar cosas directamente. Por ejemplo, hoy en día, la piratería es un proceso tedioso. Los piratas informáticos usan prueba y error para penetrar en los sistemas. Toma tiempo. Pero el hacker de IA conoce todas las vulnerabilidades y puede investigar órdenes de magnitud más rápido que un humano.

Los buenos también tendrán herramientas de IA. Pero una batalla entre fuerzas mucho más poderosas ofrece una gama de resultados mucho más arriesgada. Es como pasar de mosquetes a misiles. En todos lados. De repente.

Informe de negocios Actualizaciones matutinas y vespertinas sobre noticias financieras y económicas de nuestro galardonado equipo de negocios. Regístrese con un clic
Y ahí es cuando la IA está operando bajo el mando humano. Pero la IA trabaja implacablemente persiguiendo sus objetivos. Establecer estos resultados erróneos y terribles pueden ocurrir. En un experimento mental, Nick Bostrom, el filósofo sueco, describe una IA cuyo trabajo es maximizar la producción de clips. Termina eliminando a todos los humanos porque podemos interponernos en el camino para lograr su objetivo. No es que la IA sea malvada y tenga la intención de destruir a la humanidad. Es solo que corremos el riesgo de ser víctimas incidentales, como las hormigas que accidentalmente aplastamos mientras caminamos hacia el trabajo.

ANUNCIO
Así que nos enfrentamos a la dislocación económica más rápida de la historia, una herramienta que podría permitir que los malos causen una carnicería y el desencadenamiento de una superinteligencia que perseguirá sus objetivos a toda costa.

No podemos volver a poner al genio en la botella, y ciertamente no es del todo malo. Pero tenemos que dejar de deambular por esto en la ignorancia alegre, dejándolo en manos de unos pocos idealistas cibernéticos y vendedores astutos que nos dicen que todo será genial, porque sin una acción rápida, probablemente no lo sea.

Greg Jackson es director ejecutivo de Octopus Energy