Uno de los pioneros de la inteligencia artificial ha hecho una salida de alto perfil. Geoffrey Hintonapodado el «padrino de la IA», dice Los New York Times renunció como vicepresidente de Google y miembro de ingeniería en abril para advertir libremente sobre los riesgos asociados con la tecnología. Al investigador le preocupa que Google esté renunciando a su restricción previa en lanzamientos públicos de IA en un intento por competir con ChatGPT, Chat de Bing y modelos similares, abriendo la puerta a múltiples problemas éticos.
En el corto plazo, a Hinton le preocupa que la IA generativa pueda conducir a una ola de desinformación. Es posible que «ya no puedas saber qué es verdad», dice. También le preocupa que no solo elimine el «trabajo pesado», sino que reemplace directamente algunos trabajos. De cara al futuro, al científico le preocupa tanto la posibilidad de armas totalmente autónomas y la tendencia de los modelos de IA a aprender comportamientos extraños a partir de datos de entrenamiento. Si bien algunos de estos problemas son teóricos, Hinton teme una escalada que no se controlará sin regulaciones o el desarrollo de controles efectivos.
Hinton dice que su postura comenzó a cambiar el año pasado, cuando Google, OpenAI y otros comenzaron a crear sistemas de inteligencia artificial que, en su opinión, a veces son superiores a la inteligencia humana. La IA se ha desarrollado rápidamente en los últimos cinco años; es «aterrador» lo que podría suceder en los próximos cinco años, sugiere el investigador.
En una declaración a …, el científico en jefe de Google, Jeff Dean, dice que su firma todavía está dedicada a un «enfoque responsable» y en guardia por los «riesgos emergentes». El gigante de las búsquedas lanzó recientemente una versión aproximada de su chatbot bardo en marzo tras meses de rumores de que la empresa está preocupado por la amenaza competitiva de IA generativa. Antes de eso, se negó a publicar modelos de IA como su Imagen orientada al arte por el potencial de contenido tóxico y violaciones de derechos de autor.
Hinton ha dedicado su carrera al estudio de las redes neuronales que a menudo son clave para la IA, pero es mejor conocido por desarrollar un sistema de reconocimiento de objetos en 2012. Su innovadora red neuronal podría usar imágenes de entrenamiento para ayudar a reconocer objetos comunes. Google compró la empresa emergente DNNresearch de Hinton en 2013, y el concepto subyacente de su invento ayudó a fomentar una oleada de desarrollo que condujo a la tecnología generativa actual.
Hinton no está solo. Varios académicos influyentes y luminarias tecnológicas, incluidos Elon Musk y Steve Wozniak, firmaron recientemente una carta abierta en la que pedían una pausa de seis meses sobre el desarrollo de IA para abordar problemas éticos y de seguridad. Sin embargo, como una de las figuras más destacadas de la industria, la palabra de Hinton tiene un peso significativo.
Todos los productos recomendados por … son seleccionados por nuestro equipo editorial, independiente de nuestra empresa matriz. Algunas de nuestras historias incluyen enlaces de afiliados. Si compra algo a través de uno de estos enlaces, podemos ganar una comisión de afiliado. Todos los precios son correctos en el momento de la publicación.