Астана. 29 октября. KAZAKHSTAN TODAY — На заседании мажилиса депутаты Сергей Пономарев и Нартай Сарсенгалиев выразили обеспокоенность применением мошенниками и блогерами-пранкерами возможностей искусственного интеллекта в своих корыстных целях и потребовали от властей принять соответствующие меры.
Депутат Сарсенгалиев в своем депзапросе отметил рост случаев, когда ради лайков пользователи соцсетей разыгрывают людей, пугают их и ведут себя неадекватно в обществе. Более того, некоторые из таких блогеров позорят страну за рубежом. В пример он привел казахстанку, которая инсценировала кражу в магазине в Китае. Это вызвало скандал и разборки с полицией.
Вскоре появилась новая запись, где эта же блогер в ташкентском метро хватала за руки парней и приставала к ним. Настало время строго привлекать таких «блогеров» к ответственности, ведь их действия нарушают личное пространство людей и общественный порядок», — считает Сарсенгалиев.
Он также отметил, что сейчас любители розыгрышей стали применять возможности искусственного интеллекта.
В одних видео показывают, будто главы государств или высокопоставленные лица пришли за покупками в какой-то магазин. Люди, не разбирающиеся в цифровых технологиях, могут поверить этому. Нужно прекратить использовать ИИ для подобного обмана, даже если это делается ради маркетинга. В другом пранке дети отправляют родителям изображения, созданные искусственным интеллектом, на которых будто бы неизвестный человек зашел к ним домой и ходит по квартире. Испуганные родители звонят в полицию и мчатся домой, а дети спокойно сидят и смеются, говоря, что это просто пранк. В это время полиция может не успеть помочь тем, кто действительно нуждается в помощи — и этого «сетевые шутники» не понимают», — возмутился спикер.
Депутат предложил выявлять и публиковать список блогеров, которые своими шутками вмешиваются и нарушают покой людей.
Надо немедленно блокировать страницы в социальных сетях тех, кто оскорбил честь и достоинство других с помощью опасных пранков. Обязать администраторов соцсетей оперативно выявлять страницы, на которых публикуются опасные пранки, и сообщать об этом уполномоченным органам», — предложил депутат.
В свою очередь депутат Сергей Пономарев выразил обеспокоенность применением искусственного интеллекта и дипфейков мошенниками.
Качество подделок растет и с ним растут риски манипуляции общественным мнением, дискредитации государственных органов и дестабилизации общественно-политической ситуации. Если будет создан и распространен дипфейк с участием руководителя государства или публичного лица, с ложными призывами или фальшивыми заявлениями, последствия могут быть катастрофическими. Это уже угроза национальной безопасности», — высказался депутат.
Также дипфейки все чаще используются в финансовом мошенничестве.
Когда человек слышит голос близкого или видит его видео с просьбой о помощи, на эту удочку попадаются даже высокообразованные граждане. По данным отчета компании Feedzai за 2025 год, более 50% случаев онлайн-мошенничества совершается с использованием искусственного интеллекта. В ответ банки и платежные системы уже переходят к использованию ИИ-решений для защиты клиентов», — подчеркнул Пономарев.
Он подчеркнул, что главная проблема — ущерб репутации. Даже если позднее размещается опровержение, вред уже нанесен, а восстановить доверие практически невозможно.
С учетом стремительного роста социальной инженерии и распространения технологий искусственного интеллекта, депутат потребовал от Министерства искусственного интеллекта и Министерства внутренних дел действовать на опережение и принять комплекс мер:
1. Вменить в обязанности центра мониторинга и экспертизы цифрового контента — обеспечение и оперативное выявление дипфейков и их блокировку.
2. Разработать систему подтверждения подлинности цифровых изображений и видеоматериалов, особенно
в государственных информационных системах и официальных медиа. Этот инструмент должен быть доступен не только судам,
но и каждому гражданину, который захочет проверить изображение на подлинность.
3. Провести широкую информационную кампанию по обучению граждан методам распознавания дипфейков и защите от цифрового мошенничества.
Ранее о новых мошеннических схемах с использованием ИИ предупредили в Нацбанке.