Всемирный день прав потребителей-2024

 «Справедливый и ответственный искусственный интеллект для потребителей»

Что такое искусственный интеллект?

В 1955 году Джон Маккарти, один из пионеров искусственного интеллекта, первым определил термин искусственный интеллект (ИИ) примерно следующим образом: цель искусственного интеллекта — разработать машины, которые ведут себя так, как будто они интеллектуальны.

Что такое искусственный интеллект?

В современном мире, где цифровые технологии играют все более важную роль, онлайн мошенничество становится одной из самых серьезных проблем, с которым потребители сталкиваются ежедневно, в том числе в сети Интернет.

Онлайн мошенничество затрагивает не только отдельных пользователей, но и организации, правительства и оказывает значительное влияние на мировую экономику. Те, кто стал жертвой мошенничества, сообщают об эмоциональном смятении, стыде и потере уверенности. Интернет-мошенничество является одним из наиболее заметных проявлений цифрового вреда для потребителей, причиняя потребителям финансовый, эмоциональный и психологический вред. Однако, с развитием искусственного интеллекта, появляется возможность борьбы с этой проблемой более эффективными методами.

Важно отметить, что Федеральный закон «О защите прав потребителей» в том числе регулирует онлайн-рынок услуг, что является огромным преимуществом, поскольку зависимость потребителей от цифровых сетей и технологий ежегодно растет.

Угрозы от использования ИИ злоумышленниками:

Безопасность данных внутри ИИ — ИИ может хранить или обрабатывать чувствительную информацию, к которой через интерфейс взаимодействия с ИИ, злоумышленник каким-то образом сможет получить доступ.
Компьютерные атаки с использованием ИИ — злоумышленник может использовать ИИ для создания фишинговых сайтов, писем, компьютерных вирусов с адаптацией под внешние условия, сетевых атак для обхода различных средств защиты.
Зашумление информационного пространства — ИИ может быть использован для создания большого объема фейковых новостей и дезинформации.
ИИ может находить решение сложных задач — существуют такие задачи, решение которых может нанести вред людям, например, создание запрещенных или опасных химических соединений.
Сбор информации с использованием ИИ — продвинутый ИИ может собирать и обрабатывать большой объем разнообразной информации позволяя создавать досье на человека или организацию, которое может быть использовано против них.
 Подмена информации — злоумышленник, с помощью ИИ может создавать высококачественные копии различных документов, подписей, изображений и фотографий выдавая их за оригинал.
ИИ может имитировать реального человека — ИИ может представляться человеком и через доверие воздействовать на жертву, а также маскировать функции бота. Злоумышленник может обучить ИИ по текстовым, голосовым и видео сообщениям из открытых источников, сайтов знакомств, социальных сетей и мессенджеров.
Автоматизация операций — злоумышленник может использовать ИИ для автоматизации своих действий, что делает его более опасным.

Риски и выгоды использования ИИ:

Сбор, хранение и использование биометрических данных также несет определенные риски и вызывает опасения в отношении приватности и безопасности. Поскольку биометрические данные являются уникальными для каждого человека, их компрометация может привести к серьезным последствиям, включая «кражу цифровой личности» и личных (персональных) данных.

Кроме того, существуют вопросы о соблюдении норм регулирования в отношении сбора и использования биометрических данных, а также о возможности злоупотребления полученной информацией.

Цифровизация работы различных государственных институтов открывает большие возможности для государства, но в то же время она делает его более уязвимым для атак извне для киберпреступников.

Чтобы справиться с этими рисками, необходимо применять соответствующие меры безопасности и строго соблюдать нормы конфиденциальности и приватности.

Что такое Единая биометрическая система (ЕБС):

Вступление в силу Федерального закона от 29.12.2020 г. № 479-ФЗ установило использование Единой биометрической системы для удаленной идентификации при получении широкого спектра финансовых и государственных услуг. ЕБС обеспечивает надежное хранение данных в зашифрованном виде и доступ к ним должен быть ограничен только квалифицированным лицам.

Как защититься?

Программы для распознавания подделок очень востребованы, в первую очередь коммерческими структурами. Их создание — это одна из главных задач программистов. Пока первыми клиентами таких проектов будут банки и другие финансовые структуры — те, кто готов платить огромные деньги за сохранность своих средств. Первые результаты уже есть, в том числе и в России. Так, в прошлом году свой продукт представили российские разработчики Smart Engines. Компания сообщила, что в число их клиентов вошло сразу 13 банков.

Как правило, реальные организации в своих рассылках теперь не публикуют какие-либо ссылки для перехода по ним. Лучше проверьте достоверность информации, обратившись в организацию оффлайн или по проверенному номеру телефона.

Следите за тем, где вы оставляете свои контакты, особенно в виртуальном пространстве.

Проверяйте платежные системы. Они должны быть известными. Если сервис вызывает у вас сомнения — лучше отказаться.

Никогда не закачивайте свои документы в сервисы искусственного интеллекта. Конечно, в интернете есть огромное количество документов, и в мессенджерах мы их пересылаем, но в ИИ выкладывать не нужно. Не поощряйте сами эту историю. Тем более, что самые известные международные сервисы напрямую недоступны в России, и пользоваться можно лишь посредническими вариантами. Уверены ли вы в честности их создателей?

Скачивайте приложения на телефон только из проверенных источников. Используйте официальные версии.

Перепроверьте информацию, если сообщения или даже звонки от близких людей вас чем-то насторожили. Если есть возможность связаться через другой канал, потратьте время, но задайте вопрос.

Схемы мошенничества:

  1. На первом месте звонок (сотрудника правоохранительных органов ФСБ, МВД и т.д.)
  2. Фишинг с использованием ссылок и сайтов (Проголосуйте за мою дочь, племянницу и т.д., взломы аккаунтов пользователей соц сетей и мессенджерах и рассылка от них абонентам).
  3. Дистанционное мошенничество с использованием интернет-площадок (Авито, ДРОМ. Юла и т.д ).

Вопросы для консультирования принимаются по адресу электронной почты: nams@14.rospotrebnadzor.ru c пометкой «Искусственный интеллект 2024 г.«, также по телефону (четверг с 14ч -16 ч).

Ответы на вопросы будут направлены адресатам.

Территориальный отдел Управления Роспотребнадзора Республики Саха (Якутия) в Намском районе.