Искусственный интеллект и дезинформация
30 мая 2024 года компания OpenAI опубликовала отчёт, в котором сообщила о выявлении и блокировке за последние три месяца пяти скрытых кампаний по влиянию от акторов из Китая, Израиля, России и Ирана, которые использовали генеративный искусственный интеллект OpenAI для создания и распространения пропаганды в социальных сетях.
Журналисты проекта Factcheck.kz изучили, какую роль ИИ играет в распространении дезинформации, и какие существуют перспективы предотвращения его опасного влияния на информационную среду.
Дезинформация, созданная с помощью ИИ, представлена в виде видео, изображений, аудио и текстов, и используется в самых разных сферах вплоть до мошенничества и пропаганды. С развитием ИИ, фейки выглядят все убедительнее, а для их создания требуется всё меньше умений.
Объяснимо, мировое сообщество обеспокоено возможным влиянием таких сгенерированных фейков на демократию. В 2024 году пройдут выборы в 50 странах, и уже сейчас наблюдаются случаи использования дипфейков для политических манипуляций, например, фальшивое видео с президентом Молдовы Майей Санду о мобилизации и аудиозапись с голосом мэра Лондона, которые едва не вызвали массовые беспорядки.
Ведущие разработчики генеративных нейросетей признают, что невозможно полностью защитить ИИ от злонамеренного использования. Разоблачение дезинформации после ее распространения не уменьшает ее вред, а обычному человеку трудно отличить дипфейк от реального изображения или видео без специальных навыков.
Для борьбы с дезинформацией, по мнению специалистов OpenAI и ведущих американских университетов, необходимы совместные усилия социальных сетей, разработчиков ИИ и правительств. Однако даже эти усилия могут быть недостаточными из-за быстрого прогресса технологий.
Ключевыми инструментами в борьбе с ИИ-дезинформацией являются информационная грамотность и критическое мышление. Люди должны уметь анализировать увиденное и услышанное, чтобы отличать правду от лжи. Специальные программы, такие как Deepware и AI or Not, могут помочь в выявлении ИИ-следов, но они не всегда доступны широкой публике, требуют определенных навыков для использования и могут давать ошибочные ответы.
В связи с этим большое значение имеет развитие информационной грамотности и умения распознавать ИИ-фейки визуально. Пока что многие фейки не отличаются высоким качеством и могут быть выявлены при внимательном рассмотрении деталей.
Борьба с дезинформацией, создаваемой нейросетями, невозможна без специальных законов и стратегий по контролю за ИИ. Евросоюз уже принял проект, регулирующий приложения ИИ в зависимости от уровня их риска. Национальные законы и международные соглашения также играют важную роль. Например, в США введен запрет на роботизированные звонки с сгенерированными голосами после инцидента с фальшивыми звонками от имени президента.
В Казахстане использование генеративных нейросетей пока не регулируется, но в Концепции правовой политики до 2030 года указано, что необходимо установить законодательные рамки.
Условия для получения гражданства Казахстана
В мае президент Казахстана Касым-Жомарт Токаев подписал закон о внесении изменений в миграционную политику страны. Это вызвало бурные обсуждения в СМИ и социальных сетях, в частности, из-за широко разошедшейся новости о том, что «не знающим казахский язык и историю откажут в гражданстве Казахстана».
Как выяснили фактчекеры Factcheck.kz, утверждение о том, что незнание казахского языка и истории может стать препятствием для получения гражданства, правдиво лишь частично.
Соискателям, не обладающим знаниями языка «на элементарном уровне», основ Конституции и истории Казахстана, действительно могут отказать в гражданстве. Однако некоторые группы лиц освобождаются от сдачи экзаменов, и на них новые требования распространяться не будут. Это несовершеннолетние, недееспособные, люди с особыми заслугами перед страной, обладатели определенных профессий, этнические казахи и те, кто имеет право на упрощенное получение гражданства по международным договорам.
Последнее касается, например, граждан России, Беларуси и Кыргызстана, родившихся или проживавших на территории этих стран до 21 декабря 1991 года, а также имеющих близких родственников, проживающих в Казахстане. Также упрощенное получение гражданства предусмотрено для иностранок, состоящих в браке с гражданами Казахстана.
Иностранцы, родившиеся в Казахстане или ранее имевшие казахстанское гражданство, но не попадающие под вышеуказанные категории, должны будут подтвердить знание казахского языка, основ Конституции и истории Казахстана.
Фейки и реальность о мошенниках в погонах
На смену волны сообщений от фейковых чиновников пришли поддельные стражи правопорядка. Издание Tengrinews.kz рассказывает о том, что мошенники создают поддельные аккаунты, представляясь сотрудниками прокуратуры. Злоумышленники звонят и отправляют сообщения от имени сотрудников и руководства.
Как сообщает Stopfake.kz, департамент полиции Астаны рассылает гражданам сообщения в WhatsApp, призывая быть бдительными и перепроверять сообщения, которые приходят от якобы государственных учреждений.
Вместе с тем, появляются и очередные фейки о мошенниках. Так в мессенджере WhatsApp распространяется сообщение о группе людей, которые ходят по квартирам, выдавая себя за полицейских. Они утверждают, что им необходимо проверить удостоверения личности в связи с предстоящей переписью населения, а для убедительности демонстрируют документы и бланки с символикой МВД.
В тексте рассылки говорится, что эти лица совершают кражи в домах, выдавая себя за официальных представителей, и могут попросить сфотографировать человека или снять отпечатки пальцев под предлогом участия в какой-то схеме.
МВД прокомментировало журналистам эту рассылку, заявив, что случаев мошенничества, описанных в сообщении, на территории республики не зарегистрировано. Ведомство также добавило, что в настоящее время не проводит обход граждан с целью проверки удостоверений личности, фотографирования или снятия отпечатков пальцев у граждан.
Саранча — халяльный продукт?
В ожидании очередного нашествия саранчи, вице-министр Казахстана Серик Жумангарин, рассказывая журналистам о мерах борьбы с вредителем, внезапно заявил, что саранча — халяльный продукт и потребляется в пищу в ряде стран. Цитата чиновника широко разошлась в СМИ, и фактчекеры Factcheck.kz решили проверить на достоверность утверждение о халяльности.
Духовное управление мусульман Казахстана (ДУМК) подтвердила редакции эту информацию. Как оказалось, по шариату, саранча действительно признана халяльной. В ханафитском масхабе, которому следует ДУМК, один из хадисов пророка Мухаммеда разрешает употребление в пищу «двух видов мертвечины» — рыбы и саранчи.
Этот хадис, переданный сподвижником пророка Абдуллахом ибн Умаром, можно найти на официальном сайте ДУМК и центра «Халал даму». Специалист отдела шариата и фетв Елбек Тасболатулы уточнил, что статус халяль не обязывает употреблять продукт, и решение о поедании саранчи остается за человеком, учитывая культурные особенности региона.
О кошках и коровьем молоке
На многих сайтах, посвящённых содержанию домашних животных, указывается, что коровье молоко включать в рацион кошек нежелательно. Редакция Factcheck.kz проверила, действительно ли владельцам кошек не рекомендуется давать молоко своим питомцам.
Хотя некоторые источники допускают возможность включения небольших количеств молока в рацион кошек, большинство экспертов и исследований указывают на нежелательность этого продукта для взрослых животных из-за потенциальных проблем с пищеварением, а потому рекомендуют не кормить их молоком.
Основная проблема заключается в лактозе — молочном сахаре. У котят вырабатывается фермент лактаза, необходимый для переваривания лактозы, но по мере взросления уровень этого фермента у большинства кошек значительно снижается.
Исследования подтверждают, что взрослые кошки не способны адекватно переваривать лактозу. Это приводит к тому, что молоко не усваивается, а молочный сахар становится питательной средой для бактерий в кишечнике, вызывая газообразование и выделение молочной кислоты. Как следствие, у кошек могут возникнуть рвота, диарея и боли в желудке.
О собаках и человеческой еде
Многие владельцы собак считают, что их питомцев можно кормить остатками со стола или даже пищей, предназначенной для людей. Фактчекеры Factcheck.kz изучили вопрос и выяснили, что рацион собак может включать человеческую пищу, но не всю. Некоторые продукты, безопасные для человека, могут нанести вред здоровью собаки.
По словам ветеринарного врача клиники «Зоосфера» Мади Айтжана, пищеварительная система собак существенно отличается от человеческой. Например, у плотоядных животных, таких как собаки, кишечник короче, а желудок вырабатывает больше кислоты. Также у хищников отсутствует фермент амилазы необходимый для переваривания крахмала. Эти особенности делают собак чувствительными к подбору пищи. Неправильное питание может привести к проблемам с весом, суставами, сердцем, почками и даже к летальному исходу.
Собакам можно давать морковь, яблоки, рыбу, курицу, арахисовое масло, огурцы и зелёный горошек — эти продукты богаты микроэлементами и хорошо усваиваются. Белый и ржаной хлеб можно давать, но в небольшом количестве. Однако для собак могут быть опасны такие продукты, как шоколад, изюм, виноград, авокадо, вишня, цитрусовые, кофеин, корица, сырое мясо (необработанное, преимущественно из-за риска заразиться опасными бактериями), яйца, лук, чеснок, чрезмерно соленая еда и алкоголь.
Если собака съела что-то запрещенное, важно дать ей адсорбент и немедленно обратиться к ветеринару. Самостоятельная диагностика и лечение могут быть опасными. Запрещенные продукты следует хранить в недоступных для собаки местах.
Здоровье питомца напрямую зависит от правильно подобранного рациона, поэтому фактчекеры рекомендуют проконсультироваться с ветеринаром для получения персонализированных рекомендаций.