Este es un recordatorio periódico de que los chatbots impulsados ​​por IA todavía inventan cosas y mienten con toda la confianza de un sistema GPS que le dice que el camino más corto a casa es atravesar el lago.

Mi recordatorio es cortesía de Laboratorio Niemancual para ver si ChatGPT proporcionaba enlaces correctos a artículos de publicaciones de noticias a las que paga millones de dólares. Resulta que ChatGPT no lo hace. En cambio, crea URLs completas con total confianza, un fenómeno que la industria de la IA llama «alucinación», un término que parece más apropiado para una persona real drogada con sus propias tonterías.

Laboratorio NiemanAndrew Deck, de Andrew Deck, solicitó al servicio que proporcionara enlaces a historias exclusivas de alto perfil publicadas por 10 editores con los que OpenAI ha cerrado acuerdos por valor de millones de dólares. Estos incluyeron el Associated Press, El periodico de Wall Streetel Tiempos financieros, Los tiempos (REINO UNIDO), El mundo, El País, El Atlántico, El borde, Vozy PolíticoEn respuesta, ChatGPT devolvió URLs inventadas que conducían a páginas de error 404 porque simplemente no existían. En otras palabras, el sistema funcionaba exactamente como estaba diseñado: al predecir la versión más probable de la URL de una historia en lugar de citar la correcta. Laboratorio Nieman Hice un experimento similar con una sola publicación: Business Insider — a principios de este mes y .

Un portavoz de OpenAI dijo Laboratorio Nieman que la empresa todavía estaba desarrollando “una experiencia que combina capacidades de conversación con su contenido de noticias más reciente, asegurando la atribución adecuada y los enlaces al material de origen, una experiencia mejorada que todavía está en desarrollo y aún no está disponible en ChatGPT”. Pero se negaron a explicar las URL falsas.

No sabemos cuándo estará disponible esta nueva experiencia ni qué tan confiable será. A pesar de esto, los editores de noticias continúan aportando años de periodismo a a cambio de dinero contante y sonante porque la industria del periodismo tiene para descubrir cómo ganar dinero sin a las empresas tecnológicas. Mientras tanto, las empresas de IA están sobre el contenido publicado por cualquiera que no haya firmado estos pactos fáusticos y que lo utilice de todos modos para entrenar a sus modelos. Mustafa Suleiman, director de inteligencia artificial de Microsoft, Todo lo que se publica en Internet es «software gratuito» que se puede utilizar para entrenar modelos de IA. Microsoft estaba valuada en 3,36 billones de dólares en el momento en que escribí esto.

Aquí hay una lección: si ChatGPT inventa URL, también inventa hechos. Así es como funciona la IA generativa: en esencia, la tecnología es una versión más sofisticada del autocompletado, que simplemente adivina la siguiente palabra plausible en una secuencia. No «entiende» lo que dices, aunque actúa como si lo hiciera. Recientemente, intenté que nuestros chatbots líderes me ayudaran a resolver el problema. New York Times Spelling Bee y los vi .

Si la IA generativa ni siquiera puede resolver el concurso de ortografía, no deberías usarla para obtener datos.