an_babushkin (an_babushkin) wrote,
an_babushkin
an_babushkin

Categories:

Искусственный интеллект и права человека.

Москва, 6 мая 2020 года, в режиме ВКС

Рекомендации круглого стола
«Искусственный интеллект и права человека»

Режим борьбы с пандемией в период короновируса вызвал вал законотворческой активности, сомнительной с точки зрения прав человека.
Так, 24 апреля был принят Федеральный закон от 24.04.2020 N 123-ФЗ "О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных". Данный закон вступает в действие с 1 июля 2020 года.
Принятие закона прошло поспешно и осталось незамеченным широкой общественностью.
Негативное восприятие закона связано в том числе с тем, что государство находит средства на эксперимент, однако не находит средства на пособия для граждан, у которых кончились денежные средства. Принятие таких законов резко снижает доверие к органам власти и лидерам страны.

Результаты применения данного закона могут создать ситуации, напоминающие механизмы регулирования правоотношений, описанные писателями-фантастами 20 века в антиутопиях.
Важным представляется и то, что до принятия закон не произведен общественный аудит, уже применяемых во взаимоотношениях с гражданами цифровых технологий.

Искусственный интеллект:
- повышает опасность манипуляций волей граждан;
- снимает ответственность с должностных лиц за принятое решение либо снижает степень их ответственности;
- утрачивается возможность понимания того, почему искусственный интеллект вышел на те или иные решения;
- создает опасность выстраивания рейтингов лояльности граждан и использование этого рейтинга для дискриминации;   
- увеличивает степень анонимности принимаемых решений.
В Законе:
- отсутствует право гражданина на отказ от участия в эксперименте;
- не прописаны функции создаваемого Координационного Совета;
- отсутствуют механизмы общественного контроля за работой в сфере искусственного интеллекта;
- не предусмотрено ознакомление гражданина с целями и задачами применения в отношении него искусственного интеллекта;
- не предусмотрена защита от ошибок при слиянии информации, полученной из различных источников, определение приоритета источника информации, если источники дают противоречивую информацию;
- защиты данных, получаемых ИИ, от несанкционированного доступа.  

По мнению участников круглого стола, искусственный интеллект может применяться:
- в сфере обучения;
- для выявления преступлений и правонарушений;
- регулирование очередей;
- в сфере научных исследований;
- при заказе услуг.

Искусственный интеллект может стать, как помощью в развитии управления, так и способом разрушения современной цивилизации.

Принципы применения ИИ должны быть дополнены принципами:
- не применять результаты работы ИИ для наложения взысканий, ограничения прав;
- общественного контроля за применением ИИ;
- постоянного информирования граждан о ходе эксперимента через сеть Интернет.
- недопустимость принятия ИИ собственных решений, затрагивающих права или интересы граждан или организаций.     

Участники круглого стола рекомендуют:

  1. Создать личный кабинет для каждого гражданина в части возможности просмотра им его данных, использованных или используемых ИИ.

  2. Предусмотреть многоуровневые механизмы контроля и защиты информации, используемой ИИ.

  3. Ввести персональную ответственность разработчиков и испытателей программ, используемых ИИ.   

  4. Применение использования ИИ в сфере управления по результатам общественного обсуждения и голосования; разработать механизмы такого обсуждения, и голосования, а также критерии эффективности.

  5. Использовать ИИ и блок-чейн технологии в области учета, например, объектов недвижимости, что  позволит снизить опасность мошенничества в данной сфере

  6. Публиковать программы с открытым кодом, используемом ИИ, для их совершенствования и анализа уязвимости специалистами. 

Tags: Дорогая моя Столица..., Москва, Общественный контроль
Subscribe

Recent Posts from This Journal

promo an_babushkin november 20, 2018 04:27 3
Buy for 100 tokens
Идея амнистии носится в воздухе. Призрак амнистии бродит по России. Ну и чего, спрашивается, он бродит? Количество заключенных по сравнению с 2000-м годом снизилось 1 миллиона 60 тысяч с до 680 тысяч. Исчезли камеры, где на 10 мест находилось 20 заключенных. В 2008 году в монотонную жизнь…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments