Яндекс разрабатывает тесты ИИ на соответствие духовно‑нравственным ценностям.
Компания Яндекс представила чиновникам концепцию тестовых заданий и эталонов для оценки ИИ по духовно‑нравственным ценностям.
Задача проекта — определить, насколько модели ИИ соответствуют духу времени и принятым в стране ценностям.
На совещании регуляторов обсуждалась конфиденциальность данных: тестовые наборы не должны быть общедоступными, чтобы разработчики не могли легко перенастраивать модели.
Представитель бизнеса заявил, что закрытый датасет может быть слишком сложным для быстрого развития моделей. Был предложен компромисс: для тестирования использовать и закрытые, и открытые данные с разной формулировкой вопросов.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях искусственного интеллекта, которые должны соответствовать законам России и духовно‑нравственным ценностям.
Закон нацелен на гармонизацию развития искусственного интеллекта с государственными требованиями; детали проекта пока остаются на стадии внедрения.
