Всего 3 миллиарда параметров для логических рассуждений и обработки естественного языка.
Microsoft анонсировала выпуск инновационной языковой модели Phi-3 , обладающей 3 миллиардами параметров. Это важный шаг в создании компактных, но при этом невероятно продвинутых ИИ-продуктов для корпоративного сектора.
Phi-3 демонстрирует продвинутые аналитические способности, сравнимые с гигантскими моделями наподобие GPT-3.5 от OpenAI, но при гораздо меньшем объеме настроек. Как отмечает Себастьен Бубек, вице-президент Microsoft по генеративному ИИ: «Phi-3 — это очень компактная модель, показатели которой по бенчмаркам и практическому применению соперничают с куда более объемными решениями, приближаясь к уровню GPT-3.5».
Высокая эффективность Phi-3 стала возможной благодаря годовой работе над серией компактных языковых моделей, начавшейся с ориентированной на программирование Phi-1. По словам специалистов, модели этой серии продемонстрировали неплохие результаты в различных областях — от кодирования и логических рассуждений до общего анализа естественного языка.
Phi-3 интегрируется в облачную платформу Azure AI, что откроет организациям любого масштаба доступ к передовым технологиям обработки естественного языка и логического вывода. «Заказчики спешат реализовать действительно интересные проекты с ИИ, и в Azure мы помогаем им создавать необходимые приложения с применением генеративных технологий», — поясняет Эрик Бойд, вице-президент платформы Azure AI.
Важно отметить, что при создании Phi-3 соблюдались принципы ответственной разработки. Данные для обучения модели прошли тщательную проверку на токсичность и признаки предвзятости, также реализован комплекс дополнительных мер безопасности.
В техническом плане Phi-3 оптимизирована для работы на GPU NVIDIA, использует механизмы фокусировки внимания и повышенную точность вычислений. При необходимости модель может распределяться между несколькими GPU.
Выпуск Phi-3 и ее интеграция в Azure AI призваны сделать мощные возможности крупных языковых моделей доступными и экономически эффективными для предприятий. По мере активного внедрения ИИ в корпоративной среде специализированные решения вроде Phi-3 станут жизненно необходимы.
И мы тоже не спим, чтобы держать вас в курсе всех угроз