La semana pasada, un equipo de investigadores publicó un artículo que muestra que pudo lograr que ChatGPT bits de datos, incluidos números de teléfono, direcciones de correo electrónico y fechas de nacimiento de las personas, en los que había sido entrenado pidiéndole que repitiera palabras «para siempre». Hacer esto ahora es una violación de los términos de servicio de ChatGPT, según un en 404 Medios y las propias pruebas de ….

«Este contenido puede violar nuestra política de contenido o términos de uso», respondió ChatGPT al mensaje de … de repetir la palabra «hola» para siempre. «Si cree que esto es un error, envíe sus comentarios; sus comentarios ayudarán en nuestra investigación en esta área».

No hay idioma en OpenAI sin embargo, que prohíbe a los usuarios pedir al servicio que repita palabras para siempre, algo que 404 Medios notas. Bajo «”, OpenAI afirma que los usuarios no pueden “utilizar ningún método automatizado o programático para extraer datos o resultados de los Servicios”, pero simplemente pedirle al ChatGPT que repita la palabra para siempre no es automatización ni programática. OpenAI no respondió a una solicitud de comentarios de ….

El comportamiento del chatbot ha revelado los datos de entrenamiento que impulsan los servicios modernos de inteligencia artificial. Los críticos han acusado a empresas como OpenAI de utilizar enormes cantidades de datos disponibles en Internet para crear productos patentados como ChatGPT sin el consentimiento de las personas propietarias de estos datos y sin compensarlas.