Рекомендации круглого стола
«Искусственный интеллект и права человека»
Режим борьбы с пандемией в период короновируса вызвал вал законотворческой активности, сомнительной с точки зрения прав человека.
Так, 24 апреля был принят Федеральный закон от 24.04.2020 N 123-ФЗ "О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных". Данный закон вступает в действие с 1 июля 2020 года.
Принятие закона прошло поспешно и осталось незамеченным широкой общественностью.
Негативное восприятие закона связано в том числе с тем, что государство находит средства на эксперимент, однако не находит средства на пособия для граждан, у которых кончились денежные средства. Принятие таких законов резко снижает доверие к органам власти и лидерам страны.
Результаты применения данного закона могут создать ситуации, напоминающие механизмы регулирования правоотношений, описанные писателями-фантастами 20 века в антиутопиях.
Важным представляется и то, что до принятия закон не произведен общественный аудит, уже применяемых во взаимоотношениях с гражданами цифровых технологий.
Искусственный интеллект:
- повышает опасность манипуляций волей граждан;
- снимает ответственность с должностных лиц за принятое решение либо снижает степень их ответственности;
- утрачивается возможность понимания того, почему искусственный интеллект вышел на те или иные решения;
- создает опасность выстраивания рейтингов лояльности граждан и использование этого рейтинга для дискриминации;
- увеличивает степень анонимности принимаемых решений.
В Законе:
- отсутствует право гражданина на отказ от участия в эксперименте;
- не прописаны функции создаваемого Координационного Совета;
- отсутствуют механизмы общественного контроля за работой в сфере искусственного интеллекта;
- не предусмотрено ознакомление гражданина с целями и задачами применения в отношении него искусственного интеллекта;
- не предусмотрена защита от ошибок при слиянии информации, полученной из различных источников, определение приоритета источника информации, если источники дают противоречивую информацию;
- защиты данных, получаемых ИИ, от несанкционированного доступа.
По мнению участников круглого стола, искусственный интеллект может применяться:
- в сфере обучения;
- для выявления преступлений и правонарушений;
- регулирование очередей;
- в сфере научных исследований;
- при заказе услуг.
Искусственный интеллект может стать, как помощью в развитии управления, так и способом разрушения современной цивилизации.
Принципы применения ИИ должны быть дополнены принципами:
- не применять результаты работы ИИ для наложения взысканий, ограничения прав;
- общественного контроля за применением ИИ;
- постоянного информирования граждан о ходе эксперимента через сеть Интернет.
- недопустимость принятия ИИ собственных решений, затрагивающих права или интересы граждан или организаций.
Участники круглого стола рекомендуют:
- Создать личный кабинет для каждого гражданина в части возможности просмотра им его данных, использованных или используемых ИИ.
- Предусмотреть многоуровневые механизмы контроля и защиты информации, используемой ИИ.
- Ввести персональную ответственность разработчиков и испытателей программ, используемых ИИ.
- Применение использования ИИ в сфере управления по результатам общественного обсуждения и голосования; разработать механизмы такого обсуждения, и голосования, а также критерии эффективности.
- Использовать ИИ и блок-чейн технологии в области учета, например, объектов недвижимости, что позволит снизить опасность мошенничества в данной сфере
- Публиковать программы с открытым кодом, используемом ИИ, для их совершенствования и анализа уязвимости специалистами.
Journal information