Метка: Нейросеть

Нейросеть может сгенерировать фото и придумать биографию человека

В России за использование искусственного интеллекта в мошеннических целях будет грозить отдельное наказание. Об этом рассказали в аппарате вице-премьера Дмитрия Григоренко. За использование ИИ для кражи чужих персональных данных, вымогательства денег или имущества граждан виновным будет назначаться штраф от 100 до 500 тысяч рублей и лишение свободы на срок до 6 лет. Такое внимание государства именно к аферам с использованием ИИ неслучайно. Специалисты предупреждают, что мошенники поставили применение нейросетевых технологий на поток. Профессиональные разработчики открыто занимаются распространением специализированного ПО, предназначенного для обмана частных лиц и представителей компаний, и таких предложений становится всё больше.

В Главном управлении региональной безопасности Московской области рассказали изданию «Московские ведомости» о том, как мошенники используют в своих схемах искусственный интеллект, включая инструменты по генерации звука, текста и изображений. 

Голосовые сообщения

В частности, злоумышленники могут подкрепить свою ложную историю, предназначенную для выманивания денег у жертвы, голосовым сообщением, в котором точно имитируется голос друга или родственника жертвы. 

«Пользователи мессенджеров столкнулись со схемой обмана, когда мошенники получают доступ к аккаунту через фейковые голосования, подключение Premium-подписки или выдуманные истории с просьбой скинуть деньги. Чтобы картина выглядела убедительнее, к тексту прикрепляют голосовое сообщение, состоящее из нарезок реальных аудио из аккаунта владельца или созданное с помощью ИИ. Чтобы окончательно усыпить бдительность жертвы мошенники отправляют фото банковской карты реального знакомого или родственника, сгенерированное ИИ. Сообщения дублируют во многие чаты для большего охвата аудитории. Имитация голоса, фото или видео конкретного человека с помощью ИИ называется «дипфейк». Если жертва впервые сталкивается с этой технологией, то легко попадется на удочку. Нейросети буквально клонируют голос — его не отличить от оригинала», — предупредили в ГУРБ Московской области. 

Видеозвонки и фальшивые карточки на маркетплейсе

В ведомстве добавили, что аналогичным образом могут быть подделаны фото и видео или даже создан фейковый видеозвонок с родственником или знакомым.

«Фейковые карточки ненастоящих товаров на маркетплейсах — еще один способ выманивания денег. Покупатель оформляет заказ на онлайн-площадке, затем переходят в личное общение через мессенджеры и получает ссылку на оплату через сторонний сервис. После перевода связь с продавцом теряется», — рассказали в пресс-службе ГУРБ Московской области. 

Фальшивые люди в соцсетях и на сайтах знакомств

В управлении призвали с осторожностью относиться к знакомствам в мессенджерах или соцсетях. Нейросеть может сгенерировать фото и придумать биографию человека, под видом которого с вами будут общаться мошенники. После того, как общение завязалось, злоумышленники могут попросить перевести деньги и исчезнуть.

Рекомендации

Ранее директор департамента информационной безопасности Промсвязьбанка Дмитрий Миклухо дал несколько рекомендаций о том, как не стать жертвой мошенников, использующих искусственный интеллект. Он призвал не делиться конфиденциальной информацией, паспортными и банковскими данными, а также кодами из SMS ни с незнакомыми людьми, ни с ботами, даже если они маскируются под службу поддержки банка или другой организации. Получив сообщение в соцсети или мессенджере от вроде бы знакомого человека, особенно если оно содержит просьбу под каким-либо предлогом перевести деньги, стоит лично связаться с этим человеком по телефону и уточнить, действительно ли он это написал. Также Дмитрий Миклухо посоветовал не делиться информацией о своей частной жизни с незнакомыми людьми. В будущем это может послужить основой для индивидуализированной мошеннической схемы.

Возможности искусственного интеллекта в последнее время расширяются стремительными темпами. Нейросети могут не только эффективно искать в интернете ответ на любой вопрос или помогать в написании студенческих работ, но и делать то, что, как ещё недавно считалось, доступно только человеческому разуму – создавать произведения искусства. Или по крайней мере то, что очень похоже на искусство. В сети легко можно найти музыку, написанную компьютерным алгоритмом. А картины, автором которых стал ИИ, уже внешне несильно уступают работам именитых художников и продаются на известных аукционах. Многие деятели искусства выражают беспокойство по поводу возможной скорой потери работы из-за того, что нейросеть полностью заменит человека и в этой области

О роли ИИ в искусстве и художественной ценности произведений, создаваемых нейросетями, изданию «Московские ведомости» рассказала художник-пейзажист, искусствовед Мария Шаныгина. Она выразила уверенность в том, что компьютер в искусстве никогда не заменит человека.

«Искусственный интеллект никогда не заменит художника просто потому, что у него нет эмоций, чувств, нет возможности изучать природу и человека так, как это делает художник. Нейросеть не может создать ничего нового, она генерирует картинки из уже существующих образов, картин, фотографий, из того, что уже есть в интернете», — отметила Шаныгина.

Художница подчеркнула, что сгенерированную искусственным интеллектом картинку нельзя считать произведением искусства. Таковым работу можно признать только тогда, когда человек как-либо переработал эту картинку на холсте или в цифровом формате.

«Современные технологии активно развиваются и во многом могут облегчать работу человека. Ведь существуют разные художественные специальности – иллюстраторы, художники по костюмам и так далее. И многие мелкие задачи действительно можно поручать искусственному интеллекту, можно делать заготовки для фонов, генерировать каких-то новых персонажей. Всё это очень убыстряет и упрощает процесс, но без ума и креатива человека итогового результата не будет», — говорит Шаныгина. 

Эксперт уверена, что бороться с прогрессом бессмысленно, и стоит постепенно внедрять новые методы работы в разные сферы, в том числе в искусство:

«Я сама в этом плане консерватор, я не пользуюсь нейросетями, но знаю художников, которые этими инструментами пользуются. Не исключаю, что и мне они когда-нибудь пригодятся. У всех свой подход к работе, и постепенно искусственный интеллект тоже будет находить своё применение. К примеру, когда-то не существовало фотографии, и были только живописцы. Но потом изобрели фотографию, и художники стали использовать её в своей работе. К примеру, Шишкин обучал своих учеников перерисовывать с фотографий. Сначала это казалось кому-то диким, но потом стало привычным. Я пишу этюды с натуры. Идёт ли речь о пейзажах или портретах человека, для меня источником вдохновения будет возможность рисовать вживую. Отсюда берутся эмоции, идеи, цвета. Хочется вручную готовить холсты, краски, всё это придаёт живость работе. Но это только моё личное мнение. Если у кого-то получается создавать хорошие работы, используя нейросети, я могу за них только порадоваться».

В московских больницах искусственный интеллект начал помогать врачам оценивать состояние пациентов, поступающих в медучреждение с подозрением на инсульт или кровоизлияние

Как сообщили в Центре диагностики и телемедицины Департамента здравоохранения Москвы, в столице запустили два новых сервиса ИИ, которые позволяют быстро измерить ключевые показатели и выявить область поражения головного мозга по результатам компьютерной томограммы. Поскольку скорость постановки диагноза и принятия правильного решения о тактике лечения в таких случаях критически важна, с помощью нейросетей врачи смогут оказывать более качественную и быструю помощь пациентам и спасти больше жизней.

В начале ноября текущего года «Московская газета» сообщила, что ученые разработали искусственную печень человека.

Новые технологии проникают в жизнь граждан всё стремительнее. Однако знать нужно не только о том, как пользоваться этими инструментами, но и о том, как защитить себя, если они оказались в руках злоумышленников

Об этом заявил юрист Роман Крюков, комментируя информацию о том, что мошенники научились использовать нейросети в корыстных целях. 

По словам правозащитника, случаи, когда злоумышленники подменяют голоса во время телефонных разговоров и даже используют технологии видеомонтажа, действительно, не редкость. 

«Технологии есть в открытом доступе: одни используют их в работе, другие в досуге, подменяя голоса артистов, третьи с целью преступного умысла. Действительно, стали поступать жалобы на звонки третьих лиц, которые говорили с потенциальными жертвами голосами их родственников, просили деньги, диктовали счета», — рассказал эксперт «Московским ведомостям».

В целях безопасности Роман Крюков посоветовал не переводить денежные средства при входящем звонке с незнакомого номера или при малейших сомнениях. 

«Даже если ситуация выглядит правдоподобно, не поленитесь задать вопрос, ответ на который можете знать только вы и собеседник или перезвоните тому самому родственнику, который просит в долг. Еще лучше, если внутри семьи или близкого круга общения вы будете иметь свое кодовое слово. А вне такого круга я бы вообще советовал денег в долг не давать», — подытожил юрист. 

Как выяснилось, технически реализовать подобную мошенническую схему несложно. 

«Для того, чтобы получить голос человека и «скормить» его нейросети для дальнейшего использования достаточно 5-10 секунд разговора с ним, например, под маской рекламной акции или даже ошибочного звонка. Далее с помощью определенного программного обеспечения создается фильтр голоса, который используется при звонке от имени родственника», — рассказал в беседе с «Московскими ведомостями» ИТ-эксперт Александр Юдин. 

По словам специалиста, те нейросети, которые сегодня в России используются тысячами пользователей для генерации контента, не подходят для реализации подобных схем. Однако бесплатный доступ к сервисам с ИИ, открывающим новые возможности для пользователей, становится еще одной уловкой мошенников, на которую нередко попадаются даже несовершеннолетние. Об этом рассказывали в Главном управлении региональной безопасности Московской области. 

«Хороший программист, который действительно разбирается в технологиях, на зарубежных сайтах может найти нужные инструменты. Это не хакер международного масштаба, я бы сказал, эксперт выше среднего уровня. Сейчас мы говорим только о тоне голоса, но думаю, нейросеть в будущем сможет даже имитировать манеру общения и поддерживать разговор. Можно ли защитить себя? Можно, прежде всего, повышением грамотности. При этом я думаю, и государство должно ограничивать возможность использования нейросетей в тех или иных сферах на законодательном уровне», — заключил Александр Юдин. 

Пока о запрете или ограничении работы нейросетей в России речи не идет. Искусственный интеллект продолжает работать на благо человечества: повышает раскрываемость преступлений различного характера, следит за порядком на улицах и в общественных местах. К примеру, «умные» камеры, подключенные к системе «Безопасный регион» в Московской области, позволяют эффективнее контролировать сразу несколько сфер: экологию, строительство, транспорт и другие.

Школьникам следует ограничить возможности использования нейросети. С такой инициативой выступил первый зампредседателя думского комитета по информационной политике, информационным технологиям и связи Антон Ткачёв.

По словам парламентария, с начала сентября значительно выросло количество запросов к работающим на территории страны нейросетям на решение задач, различных упражнений и подготовку текстов из школьной программы.

Депутат не сомневается, что запросы идут от российских школьников, которые стали решать задачи и готовить уроки с помощью искусственного интеллекта. Ткачёв рассказал журналистам, что уже направил соответствующий запрос в министерство просвещения РФ, в котором, в том числе предлагается ограничить возможности школьников получать от нейросетей ответы на задачи и упражнения из школьной программы.

Зампред профильного думского комитета не считает необходимым запрещать пользоваться услугами нейросетей, тем более что искусственный интеллект может помочь в образовании, если речь идёт о сборе необходимой информации. Однако, по словам политика, ИИ не должен превращаться из помощника в исполнителя.

«Мы ведь не зря запрещаем учащимся младших классов пользоваться на уроках математики калькуляторами. Ребёнок должен учиться мыслить. Бессмысленное переписывание домашних заданий, которое за школьника делает нейросеть, не приведёт ни к чему хорошему, а в ближайшем будущем лишит нас грамотных специалистов, умеющих мыслить критически в будущем», – заявил Ткачёв.

Парламентарий считает, что существуют технические возможности для блокировки запросов в нейросеть в части выполнения заданий из школьной программы. Но решить эту проблему можно только на уровне межведомственного взаимодействия.

Эксперт в области кибербезопасности Андрей Солодовников рассказал «Московским ведомостям», что технический запрет на подобные запросы школьников возможен, но больше в теории, чем на практике.

«Шпаргалку с ответом на любой вопрос из школьной программы можно найти в интернете без использования ИИ. Так называемых решебников в сети десятки. И пока никто не блокирует порталы, предоставляющие такую информацию. С нейросетью будет сложнее. Кроме того, школьники найдут возможность ставить нейросети корректную задачу в обход запретов, потому что ИИ давно обучен всем предметам школьной программы», – отметил эксперт.

«Область ИТ сегодня нуждается в 500-600 тысячах специалистов. Сразу такое количество не подготовить. Перед нами стоит ряд важнейших задач, таких как повсеместная автоматизация процесса, передача решений когнитивных задач искусственному интеллекту, риск использования генеративных нейросетей и другие», — заявил ректор МГИМО МИД России Анатолий Торкунов

Он также рассказал о проекте, над которым трудятся российские преподаватели. Это учебник с искусственным интеллектом. 

«Активно используется ChatGPT, различные боты. Необходимо использовать продукты интеллектуального труда совместно с искусственным интеллектом в сфере образования. Если опыт создания такого учебника будет удачным, то мы и дальше будем развивать это направление», — отметил Торкунов.

На протяжении ряда лет в области больших данных и использования искусственного интеллекта, создаются новые образовательные программы, открывается магистратура, добавил ректор МГИМО МИД России.

Директор Института системного программирования им. В.П. Иванникова РАН Арутюн Аветисян в свою очередь отметил важность повышения информационной безопасности для всестороннего развития в области цифровизации.

По словам эксперта, сейчас отечественные министерства переходят на российское ПО, что немаловажно в условиях беспрецедентного санкционного давления. Базовой сейчас является работа с цифровыми данными, российские ВУЗы продолжают готовить первоклассных специалистов. Цифровая трансформация плотно проникает и в научные, и в образовательные процессы, а также существенно повышает продуктивность труда.