Amazon и Hugging Face объединились для упрощения запуска ИИ-моделей

Amazon и Hugging Face объединились для упрощения запуска ИИ-моделей

Amazon Web Services (AWS) объявила о партнерстве со стартапом Hugging Face, чтобы упростить запуск тысяч ИИ-моделей на специализированных чипах Amazon. Hugging Face, стоимость которого оценивается в 4,5 миллиарда долларов, стал ключевой платформой для обмена и разработки ИИ-чат-ботов и программного обеспечения.

Hugging Face, поддерживаемый такими гигантами, как Amazon, Google и NVIDIA, является основным ресурсом для разработчиков, работающих с ИИ-моделями с открытым исходным кодом, такими как модели Meta Platforms. После завершения работы над моделью разработчики стремятся внедрить ее в программное обеспечение. Новое партнерство с AWS направлено на упрощение этого процесса с помощью специализированного чипа Inferentia2 от Amazon. «Для нас очень важна эффективность: мы должны быть уверены, что как можно больше людей смогут запускать модели и что они смогут использовать их наиболее экономичным способом», — отметил Джефф Будье, руководитель отдела продуктов и роста Hugging Face.

AWS, в свою очередь, стремится привлечь больше разработчиков ИИ к использованию своих облачных сервисов. Хотя Nvidia лидирует на рынке обучения моделей, AWS утверждает, что его чипы могут более экономично работать с уже обученными моделями в процессе логического вывода. «Вы обучаете эти модели, возможно, раз в месяц. Но вы можете делать логические выводы на их основе десятки тысяч раз в час. Вот где Inferentia2 действительно сияет», — подчеркнул Мэтт Вуд, ответственный за продукты ИИ в AWS.

Новое партнерство AWS и Hugging Face знаменует собой важный шаг в развитии ИИ-инфраструктуры. Специализированные чипы, такие как Inferentia2, предлагают значительные преимущества в экономичности и эффективности, что делает ИИ-технологии более доступными для широкого круга разработчиков. Это сотрудничество подчеркивает важность оптимизации процессов логического вывода и создание более доступных решений для развертывания ИИ, что является ключевым фактором для дальнейшего прогресса в этой области.