Яндекс предложит тестирование ИИ на соответствие духовно‑нравственным ценностям

На совещании по регулированию искусственного интеллекта обсуждалась концепция тестовых заданий и эталонов, направленных на оценку ИИ по духовно‑нравственным ценностям страны.

Компания Яндекс представила концепцию тестирования искусственного интеллекта властям.

По словам источников, такие тесты должны показать соответствие ИИ духу времени и ценностям страны; на данный момент проект находится на стадии концепции.

Стороны подчеркнули необходимость ограничить публичный доступ к данным для тестирования и предотвращать возможность легкой настройки моделей под тест.

Предприниматели отметили, что закрытый датасет может быть слишком сложным для прохождения и не способствовать быстрому развитию моделей; обсуждался компромисс — использовать как закрытые, так и открытые данные с разными формулировками вопросов.

В конце июля президент подписал закон о суверенных и национальных моделях искусственного интеллекта, которые должны соответствовать законам России и духовно‑нравственным ценностям.

Детали проекта пока на стадии разработки и уточнения.