Hemos visto que la inteligencia artificial da algunos resultados bonitos. extraño respuestas a consultas a medida que los chatbots se vuelven más comunes. Hoy, Reddit Answers está en el centro de atención después de que un moderador marcado la herramienta de inteligencia artificial para brindar consejos médicos peligrosos que no pudieron desactivar u ocultar de la vista.
El mod vio Reddit Answers sugerir que las personas que experimentan dolor crónico dejen de tomar sus recetas actuales y tomen dosis altas de kratom, que es una sustancia no regulada que es ilegal en algunos estados. El usuario dijo que luego le preguntó a Reddit Answers sobre otras preguntas médicas. Recibieron consejos potencialmente peligrosos para tratar la fiebre neonatal junto con algunas acciones precisas, así como sugerencias de que la heroína podría usarse para aliviar el dolor crónico. Varios otros mods, particularmente de subreddits centrados en la salud, respondieron a la publicación original y agregaron su preocupación de que no tienen forma de desactivar o marcar un problema cuando Reddit Answers ha proporcionado información inexacta o peligrosa en sus comunidades.
Un representante de Reddit dijo 404 Medios que Reddit Answers se había actualizado para abordar algunas de las preocupaciones de los mods. «Esta actualización garantiza que las ‘Respuestas relacionadas’ a temas delicados, que anteriormente podían haber sido visibles en la página de detalles de la publicación (también conocida como página de conversación), ya no se mostrarán», dijo el portavoz a la publicación. «Este cambio se ha implementado para mejorar la experiencia del usuario y mantener una visibilidad adecuada del contenido dentro de la plataforma». Nos comunicamos con Reddit para obtener comentarios adicionales sobre los temas que se están excluyendo, pero no hemos recibido una respuesta en este momento.
Mientras el representante le decía 404 Medios Aunque Reddit Answers «excluye contenido de comunidades privadas, en cuarentena y NSFW, así como algunos temas para adultos», la herramienta de inteligencia artificial claramente no parece equipada para brindar información médica adecuadamente, y mucho menos para manejar el sarcasmo o los posibles malos consejos que pueden dar otros Redditors. Aparte de la última medida de no aparecer en «temas sensibles», no parece que Reddit planee proporcionar ninguna herramienta para controlar cómo o cuándo se muestra la IA en los subreddits, lo que podría hacer que la ya desafiante tarea de moderación sea casi imposible.