Альянс в сфере искусственного интеллекта представил новую версию бенчмарка MERA: в нее вошли динамический лидерборд, обновленная кодовая база замеров, более совершенная система промптов и улучшенные датасеты, поддержка API, а также замеры десятков новых моделей, включая созданные OpenAI. Об этом говорится в сообщении на официальном сайте альянса.
Обновленная версия бенчмарка включает в себя 15 основных задач, из которых строится рейтинг, и восемь открытых публичных датасетов.
MERA (Multimodal Evaluation for Russian-language Architectures) — это независимый открытый бенчмарк для оценки фундаментальных моделей русского языка, совместно разработанный на площадке альянса в сфере искусственного интеллекта исследователями от индустрии — командами Сбера и MTS AI, а также академическими партнерами Skoltech AI и НИУ ВШЭ.
С момента релиза первой версии бенчмарка им воспользовались десятки разработчиков моделей, отправивших свыше 1000 сабмитов. Совершенствование MERA стало возможно благодаря комментариям пользователей и обратной связи от участников NLP-сообщества. Дальнейшее развитие MERA предусматривает появление в нем задач для оценки распознавания изображений, аудио- и видеоматериалов.