Яндекс предлагает концепцию тестирования ИИ на соответствие духовно‑нравственным ценностям страны
На совещании по регулированию ИИ обсуждалась концепция тестовых заданий и эталонов для проверки ИИ на соответствие духовно‑нравственным ценностям.
Цель — определить, насколько ИИ соответствует базовым ценностям и духу времени.
Детали: проект пока находится на стадии концепции.
На совещании обсуждалось, что данные для тестов не должны становиться общедоступными, а разработчики не должны иметь возможности легко настраивать модели.
Представитель бизнеса отметил, что закрытого датасета может оказаться слишком сложным для прохождения и замедлить развитие моделей.
Был предложен компромисс: для тестирования использовать как закрытые, так и открытые данные с разной формулировкой вопросов.
Контекст: в конце июля подписан закон об суверенных и национальных моделях ИИ, которые должны соответствовать законам России и духовно‑нравственным ценностям.
Такие правила призваны обеспечить соответствие требованиям закона и ценностям страны.
