La nueva herramienta de OpenAI puede ayudarlo a identificar el texto escrito por ChatGPT

La nueva herramienta de OpenAI puede ayudarlo a identificar el texto escrito por ChatGPT


OpenAI tiene lanzó una herramienta para ayudarlo a determinar si es más probable que el texto haya sido escrito por un humano o por una IA. Sin embargo, el creador de ChatGPT advierte que su equivalente a CazarecompensasLa prueba de Voight-Kampff también puede fallar.

La herramienta incluye un cuadro donde puede pegar texto de al menos 1000 caracteres. Luego emitirá un veredicto, como «El clasificador considera que es muy poco probable que el texto haya sido generado por IA» o «El clasificador considera que el texto posiblemente haya sido generado por IA».

Lo probé pidiéndole a ChatGPT que escribiera un ensayo sobre los patrones migratorios de las aves, que la herramienta de detección luego describió como «posiblemente generado por IA». Mientras tanto, calificó varios artículos escritos por humanos como «muy poco probables generados por IA». Entonces, aunque la herramienta podría generar falsas banderas en cualquier dirección, mi prueba (tamaño de muestra pequeño) sugiere al menos un grado de precisión. Aún así, OpenAI advierte que no se use la herramienta sola para determinar la autenticidad del contenido; también funciona mejor con texto de 1000 palabras o más.

La startup se ha enfrentado a la presión de los educadores después del lanzamiento en noviembre de su herramienta ChatGPT, que produce contenido escrito por IA que a veces puede pasar por escritura humana. El modelo de lenguaje natural puede crear ensayos en segundos basados ​​en indicaciones de texto simples, incluso pasando un examen de posgrado en derecho y negocios — mientras brinda a los estudiantes una nueva y tentadora oportunidad de hacer trampa. Como resultado, las escuelas públicas de Nueva York prohibió el bot desde sus redes WiFi y dispositivos escolares.

Captura de pantalla de un cuadro con texto producido por IA en un sitio web de OpenAI que intenta determinar si el texto fue escrito por ChatGPT.  El resultado indica que es

IA abierta

Si bien la llegada de ChatGPT ha sido un tema muy comentado últimamente, incluso se ha extendido a medios de comunicación ansioso de automatizar artículos compatibles con SEO, el bot es un gran negocio para OpenAI. Según se informa, la compañía aseguró una inversión de $10 mil millones a principios de este mes de parte de Microsoft, que planea integrarlo en Bing y Office 365. OpenAI supuestamente discutió la venta de acciones a una valoración de $ 29 mil millones a fines del año pasado, lo que la convertiría en una de las empresas emergentes más valiosas de EE. UU.

Aunque ChatGPT es actualmente el mejor modelo de IA de lenguaje natural disponible públicamente, Google, Baidu y otros están trabajando en los competidores. de Google LaMDA es suficientemente convincente que un ex investigador tiró su trabajo con el gigante de las búsquedas el año pasado al afirmar que el chatbot es inteligente. (La tendencia humana a proyectar sentimientos y conciencia en algoritmos es un concepto del que probablemente escucharemos mucho en los próximos años). Google solo ha lanzado versiones extremadamente restringidas de su chatbot en una versión beta, presumiblemente por preocupaciones éticas. Con el genio fuera de la botella, será interesante ver cuánto dura esa moderación.

Todos los productos recomendados por … son seleccionados por nuestro equipo editorial, independiente de nuestra empresa matriz. Algunas de nuestras historias incluyen enlaces de afiliados. Si compra algo a través de uno de estos enlaces, podemos ganar una comisión de afiliado. Todos los precios son correctos en el momento de la publicación.



Fuente: engadget.com

Deja una respuesta

*

Esta web utiliza cookies propias y de terceros para su correcto funcionamiento y para fines analíticos y para fines de afiliación y para mostrarte publicidad relacionada con sus preferencias en base a un perfil elaborado a partir de tus hábitos de navegación. Contiene enlaces a sitios web de terceros con políticas de privacidad ajenas que podrás aceptar o no cuando accedas a ellos. Al hacer clic en el botón Aceptar, acepta el uso de estas tecnologías y el procesamiento de tus datos para estos propósitos. Más información
Privacidad