Anthropic está haciendo un llamado a la acción contra los «ataques de destilación» de IA, después de acusar a tres compañías de IA de hacer mal uso de su chatbot claude. En su sitio web, antrópico afirmó que búsqueda profundaMoonshot y MiniMax han estado llevando a cabo «campañas a escala industrial… para extraer ilícitamente las capacidades de Claude para mejorar sus propios modelos».

La destilación en el mundo de la IA se refiere a cuando los modelos menos capaces se apoyan en las respuestas de los más poderosos para entrenarse. Si bien la destilación no es algo malo en todos los ámbitos, Anthropic dijo que este tipo de ataques se pueden usar de una manera más nefasta. Según Anthropic, estas tres empresas chinas de inteligencia artificial fueron responsables de más de «16 millones de intercambios con Claude a través de aproximadamente 24.000 cuentas fraudulentas». Desde la perspectiva de Anthropic, estas empresas competidoras estaban utilizando a Claude como un atajo para desarrollar modelos de IA más avanzados, lo que también podría conducir a eludir ciertas salvaguardias.

Anthropic dijo en su publicación que pudo vincular cada una de estas campañas de ataque de destilación con empresas específicas con «alta confianza» gracias a la correlación de direcciones IP, solicitudes de metadatos e indicadores de infraestructura, además de corroborar con otros en la industria de la IA que han notado comportamientos similares.

A principios del año pasado, AbiertoAI hizo afirmaciones similares sobre empresas rivales que destilaban sus modelos y, en respuesta, prohibió cuentas sospechosas. En cuanto a Anthropic, la compañía detrás de Claude dijo que actualizaría su sistema para que los ataques de destilación sean más difíciles de realizar y más fáciles de identificar. Si bien Anthropic señala con el dedo a estas otras empresas, también enfrenta una pleito de editores de música que acusaron a la empresa de inteligencia artificial de utilizar copias ilegales de canciones para entrenar su chatbot Claude.