Incluso los gigantes tecnológicos con sus propios LLM están teniendo problemas para encontrar suficiente potencia informática.
Google se vio obligado a limitar el uso que Meta hacía de su IA Géminis modelo después de que la compañía de Mark Zuckerberg excediera su capacidad informática, dijeron fuentes familiarizadas con el asunto El tiempo financiero. El incidente revela que incluso los gigantes tecnológicos con sus propios LLM están teniendo problemas para encontrar suficiente potencia informática para ellos, y mucho menos para sus clientes.
Meta no opera su propio negocio en la nube y está tratando de expandir rápidamente su propio centro de datos, teniendo prometió 600 mil millones de dólares en inversiones en computación en la nube durante los próximos dos años. Según se informa, Google advirtió a la compañía de redes sociales sobre sus límites de capacidad en marzo, lo que a su vez obligó a Meta a solicitar que los empleados usaran tokens de manera más eficiente, dijeron las fuentes.
Meta utiliza Gemini AI para servicio al cliente, chatbots de anunciantes y codificación, junto con procesos como eliminación de contenido dañino y detección de estafas. Meta inicialmente eligió Gemini para esas cosas porque superó a sus propios modelos de código abierto Llama, dijeron las fuentes. La empresa también emplea otros modelos como el Claude de Anthropic para fines similares.
A pesar de los miles de millones gastados hasta ahora en centros de datos, las grandes empresas están luchando por conseguir suficiente capacidad para sus necesidades de uso. La propia Google acordó recientemente pagar a SpaceX 920 millones de dólares al mes utilizar los centros de datos de xAI, debido a la potencia informática adicional requerida para Gemini Enterprise.
Los usuarios avanzados de IA se están beneficiando del auge, pero proveedores como OpenAI no se están beneficiando Sin embargo, dado que los ingresos obtenidos hasta ahora gracias a la IA representan un pequeño porcentaje de los costos, según analistas. Recientemente, los precios de los tokens han aumentado, lo que ha obligado a algunas empresas a dar marcha atrás sobre el uso de la IA, incluidas, al parecer, las propias empresas de IA.