Яндекс предлагает концепцию тестирования ИИ по духовно‑нравственным ценностям по регуляторной линии
На совещании по регулированию искусственного интеллекта компания представила идею тестовых заданий и эталонов для оценки ИИ на соответствие заявленным ценностям страны.
Источник сообщил, что инициатива обсуждалась в рамках подготовки к возможным нормативным требованиям без привязки к конкретному медиа.
Согласно концепции, тесты должны выявлять соответствие ИИ доктрине времени и национальным ценностям.
Проект, по информации, пока находится на стадии концепции.
На совещании представители правоохранительных структур настаивали на недоступности тестовых данных и на невозможности легко подстроить модели под задания.
Бизнес‑участники отметили, что закрытый датасет может усложнить прохождение тестов и замедлить развитие моделей; предложили компромисс — использовать сочетание закрытых и открытых данных с разной формулировкой вопросов.
Контекст: в конце июля был подписан закон о суверенных и национальных моделях ИИ, которые должны соответствовать законам страны и духовно‑нравственным ценностям.
Следите за обновлениями — будем рассказывать о ключевых регуляторных новостях в области технологий.