Внедрение ИИ в бухгалтерию сопряжено с рисками

Главная проблема бесконтрольного применения искусственного интеллекта в бухгалтерии связана с природой самих алгоритмов, считают эксперты

Российские ученые разработали искусственный интеллект (ИИ) для работы с бухгалтерскими документами, способный за один час выполнить объем ручной работы, эквивалентный месячному труду отдела из 10 бухгалтеров. Какие существуют риски применения ИИ в бухгалтерии?

Ошибки

«Заявленная способность ИИ выполнять месячный объем работы отдела за час указывает на рост скорости выполнения рутинных операций. Однако внедрение ИИ в бухгалтерию сопряжено с рисками, требующими непрерывного анализа и контроля. Отсутствие человеческого контроля способно привести к ошибкам в интерпретации учетно-отчетных данных, особенно в сложных ситуациях, к неточностям в отчетности, нарушению законодательства и принятию неверных решений; ИИ уязвим к манипуляциям с данными, открывая возможности мошенничеству. Не исключены ошибки в алгоритмах ИИ, приводящих к искажениям в учете», — сказала изданию «Московские ведомости» профессор кафедры налогов и налогового администрирования Финансового университета при правительстве РФ Наталья Рубан-Лазарева.

Контроль

Могут ли бухгалтера потерять рабочие места?

«Полная замена бухгалтеров ИИ маловероятна. ИИ автоматизирует рутинные задачи, но требует контроля при принятии решений в сложных ситуациях, экспертного суждения и знаний нормативных актов. Хотя внедрение ИИ приведет к сокращению числа работников, выполняющих рутинные операции, но не исключит потребность в высококвалифицированных специалистах, способных контролировать и обслуживать системы ИИ в бухгалтерии и в бухгалтерах-аналитиках, способных интерпретировать отчетные данные. Принятие решений в нестандартных ситуациях, разработка учетной политики, оптимизация налогообложения, представление интересов компании в налоговых органах и взаимодействие с аудиторами требуют человеческого участия. Нуждаются в осознанном мышлении знания нормативных актов, которые сложно воспроизвести с помощью ИИ», — добавила эксперт.

Какие особенности существуют в бухгалтерии, которые не стоит передавать ИИ?

Особенности

«Не все специфические моменты работы бухгалтерии можно полностью доверить искусственному интеллекту (ИИ). Любые программы и базы данных подвергаются опасности при попытках взлома или отключения от серверов. Изменения законодательства, в т.ч. налогового, происходят достаточно часто, как и получение новых разъяснений от государственных органов, что требует постоянных корректировок в системе. Нестандартные или дискуссионные операции, возникающие у некоторых организаций, требуют согласования, например, с налоговым органом в части отражения, что исключает автоматическое заполнение всех форм документов и отчётности. Кроме того, по некоторым вопросам есть достаточно разнообразная судебная практика, которую ИИ не сможет однозначно учесть, также при принятии требуется согласование с руководством. Многие главные бухгалтеры не готовы полностью доверять ИИ, ведь даже опытные консультанты не имеют однозначного ответа на некоторые вопросы, особенно в сфере налогообложения», — сообщила изданию доцент кафедры налогов и налогового администрирования факультета налогов, аудита и бизнес-анализа Финансового университета при правительстве РФ Елена Смирнова.

Вопрос ответственности

Кто будет выплачивать пени, неустойку если ИИ в чем-то ошибется — бухгалтер или компания?

«Ключевой аспект заключается в вопросе ответственности. Кто будет нести финансовую ответственность в виде штрафов и пеней в случае некорректной работы алгоритма? В текущих реалиях эту ответственность продолжает нести бухгалтер. Например, для малого бизнеса, где важен детальный и четкий подход к каждой операции, ИИ вряд ли станет полноценной заменой специалиста, поскольку он может игнорировать или искажать определенные нюансы, что приведет к серьезным осложнениям во взаимоотношениях с контролирующими органами. Возможно, ИИ будет эффективен при АУСН. Статистически подобные системы могут допускать до 20-25% ошибок в вычислениях, что связано с определенными техническими трудностями и, что важнее, с особенностями законодательства. Если бы нормы права оставались неизменными на протяжении 5-7 лет, за которые ИИ можно было бы основательно обучить, тогда ситуация могла бы быть иной. Но наше законодательство меняется с высокой периодичностью, порой каждые три месяца, и система искусственного интеллекта просто не будет успевать адаптироваться к этим изменениям. Поэтому сотрудники бухгалтерии могут не беспокоиться о своих рабочих местах в обозримом будущем», — поделилась своим мнением с изданием Олеся Бережная, консультант по стратегическому и антикризисному управлению, генеральный директор ООО «Вместе.ПРО».

Главная проблема

«Главная проблема бесконтрольного применения искусственного интеллекта в бухгалтерии связана с природой самих алгоритмов. Если человек, совершая ошибку, обычно затрагивает ограниченное число операций, то ИИ-система, неверно интерпретировавшая правило учёта или налогового законодательства, тиражирует эту ошибку на весь массив данных практически мгновенно. Мы имеем дело не с количественным, а с качественным изменением рисков. Особую озабоченность вызывает проблема интерпретируемости решений: многие современные нейросетевые модели работают как «чёрный ящик», не позволяя понять логику конкретного вывода. Для налоговых органов и аудиторов это создаёт серьёзные комплаенс-риски, поскольку российское законодательство требует обоснования каждой учётной записи. Опыт предыдущих волн автоматизации позволяет прогнозировать скорее трансформацию профессии, чем её исчезновение. Когда в середине прошлого века появились первые электронно-вычислительные машины, многие предрекали массовую безработицу среди счётных работников. В действительности численность бухгалтеров в развитых экономиках росла на протяжении десятилетий, поскольку усложнялось законодательство, расширялся бизнес и появлялись новые требования к финансовой отчётности. Автоматизация рутинных операций освобождала время для аналитической работы более высокого уровня», — рассказал политолог, советник г. Москвы, доктор делового администрирования (MBA/DBA) по юриспруденции, экономике и управлению Роман Синицын.

Студенты Москвы изучили влияние ИИ на городскую среду

Лучшей стала команда Московского государственного университета

Межвузовский конкурс «Регуляторный хакатон» в рамках форума «Территория будущего. Москва 2030» прошел в павильоне «Экономика Москвы» столичного парка «Музеон». Студентам предложили решить задачи о применении искусственного интеллекта в транспорте, образовании, благоустройстве, строительстве и медицине, сообщили в Департаменте экономической политики и развития города. 

«Конкурс показал, что студенты способны разрабатывать продуманные регуляторные решения для ключевых сфер. Такой опыт помогает им еще во время учебы понять, как использовать цифровые инструменты и экспертные подходы для выработки эффективных решений», – сказала заместитель мэра Москвы, руководитель департамента экономической политики и развития Мария Багреева. 

Студенты провели анализ действующего законодательства, определили риски и предложили решения правового регулирования, позволяющие внедрять цифровые технологии. При этом участникам хакатона предстояло моделировать регуляторные рамки, у которых еще не было аналогов. 

Лучше других с заданием справилась команда МГУ, представившая разработку по регулированию искусственного интеллекта в сфере медицины. Второе место у студентов МГУУ, третье место заняла команда Финансового университета при правительстве России. В ходе мероприятия участники получали консультации от юристов и экспертов отрасли, что позволило им глубже разобраться в предложенных темах. 

По мнению Марии Багреевой, вовлечение молодежи в работу с современными технологиями является инвестицией в будущее столицы:

«Чем раньше студенты начнут применять такие инструменты, тем быстрее они смогут вносить вклад в развитие городской экономики и создание комфортной среды для жителей». 

Жителям Подмосковья рассказали, как мошенники используют искусственный интеллект

Нейросеть может сгенерировать фото и придумать биографию человека

В России за использование искусственного интеллекта в мошеннических целях будет грозить отдельное наказание. Об этом рассказали в аппарате вице-премьера Дмитрия Григоренко. За использование ИИ для кражи чужих персональных данных, вымогательства денег или имущества граждан виновным будет назначаться штраф от 100 до 500 тысяч рублей и лишение свободы на срок до 6 лет. Такое внимание государства именно к аферам с использованием ИИ неслучайно. Специалисты предупреждают, что мошенники поставили применение нейросетевых технологий на поток. Профессиональные разработчики открыто занимаются распространением специализированного ПО, предназначенного для обмана частных лиц и представителей компаний, и таких предложений становится всё больше.

В Главном управлении региональной безопасности Московской области рассказали изданию «Московские ведомости» о том, как мошенники используют в своих схемах искусственный интеллект, включая инструменты по генерации звука, текста и изображений. 

Голосовые сообщения

В частности, злоумышленники могут подкрепить свою ложную историю, предназначенную для выманивания денег у жертвы, голосовым сообщением, в котором точно имитируется голос друга или родственника жертвы. 

«Пользователи мессенджеров столкнулись со схемой обмана, когда мошенники получают доступ к аккаунту через фейковые голосования, подключение Premium-подписки или выдуманные истории с просьбой скинуть деньги. Чтобы картина выглядела убедительнее, к тексту прикрепляют голосовое сообщение, состоящее из нарезок реальных аудио из аккаунта владельца или созданное с помощью ИИ. Чтобы окончательно усыпить бдительность жертвы мошенники отправляют фото банковской карты реального знакомого или родственника, сгенерированное ИИ. Сообщения дублируют во многие чаты для большего охвата аудитории. Имитация голоса, фото или видео конкретного человека с помощью ИИ называется «дипфейк». Если жертва впервые сталкивается с этой технологией, то легко попадется на удочку. Нейросети буквально клонируют голос — его не отличить от оригинала», — предупредили в ГУРБ Московской области. 

Видеозвонки и фальшивые карточки на маркетплейсе

В ведомстве добавили, что аналогичным образом могут быть подделаны фото и видео или даже создан фейковый видеозвонок с родственником или знакомым.

«Фейковые карточки ненастоящих товаров на маркетплейсах — еще один способ выманивания денег. Покупатель оформляет заказ на онлайн-площадке, затем переходят в личное общение через мессенджеры и получает ссылку на оплату через сторонний сервис. После перевода связь с продавцом теряется», — рассказали в пресс-службе ГУРБ Московской области. 

Фальшивые люди в соцсетях и на сайтах знакомств

В управлении призвали с осторожностью относиться к знакомствам в мессенджерах или соцсетях. Нейросеть может сгенерировать фото и придумать биографию человека, под видом которого с вами будут общаться мошенники. После того, как общение завязалось, злоумышленники могут попросить перевести деньги и исчезнуть.

Рекомендации

Ранее директор департамента информационной безопасности Промсвязьбанка Дмитрий Миклухо дал несколько рекомендаций о том, как не стать жертвой мошенников, использующих искусственный интеллект. Он призвал не делиться конфиденциальной информацией, паспортными и банковскими данными, а также кодами из SMS ни с незнакомыми людьми, ни с ботами, даже если они маскируются под службу поддержки банка или другой организации. Получив сообщение в соцсети или мессенджере от вроде бы знакомого человека, особенно если оно содержит просьбу под каким-либо предлогом перевести деньги, стоит лично связаться с этим человеком по телефону и уточнить, действительно ли он это написал. Также Дмитрий Миклухо посоветовал не делиться информацией о своей частной жизни с незнакомыми людьми. В будущем это может послужить основой для индивидуализированной мошеннической схемы.

Лидер «Зелёного патруля» Нагибин оценил роль ИИ в решении экологических проблем

В Париже 10-11 февраля состоялся AI Action Summit, на котором представители развитых и развивающихся стран, а также крупнейших технологических компаний обсуждали текущее состояние и перспективы развития искусственного интеллекта. Представители 60 стран подписали декларацию об инклюзивности и устойчивости ИИ, призывающую учитывать интересы всего человечества при развитии нейросетей. Участники саммита констатировали, что мир оказался на пороге нового технологического прорыва. Применение ИИ открывает новые возможности в экономике, энергетике, образовании и трансформации рынка труда. Правда, бурное развитие технологий влечёт за собой и дополнительные риски. И речь идёт не только о вопросах этики и безопасности, но и о росте потребления электроэнергии, необходимой для функционирования огромных дата-центров по обработке информации. Некоторые учёные уверены, что активное использование ИИ может существенно усугубить проблему глобального потепления. В то же время нейросети вносят всё более важный вклад и в охрану окружающей среды, и экология может в ближайшем будущем стать ещё одной значимой сферой применения искусственного интеллекта

Эффект цифровизации для экологии в беседе с изданием «Московские ведомости» оценил лидер Общероссийской общественной организации «Зелёный патруль» Андрей Нагибин. Эколог подтвердил, что современные информационные технологии, в частности, искусственный интеллект обладают огромным потенциалом, помогая человечеству в решении экологических проблем. 

«В экологии необходимо учитывать огромное количество факторов и параметров, многие из которых можно высчитать или количественно измерить. Очевидно, что любые, особенно сложные расчёты с большим количеством параметров, машинный алгоритм выполняет несопоставимо быстрее человека. Нейросети, к примеру, могут использоваться и уже активно используются для прогнозирования изменений климата. Это сегодня ключевая проблема, на развитие которой влияет хозяйственная деятельность человека в самых разных её проявлениях. Искусственный интеллект может не только прогнозировать, как антропогенное воздействие отражается на климате, но и подыскивать оптимальные варианты снижения этого влияния», — сказал общественный деятель.

По словам Андрея Нагибина, ИИ также играет большую роль в дистанционном мониторинге состояния окружающей среды, помогая расшифровывать и анализировать огромные объёмы данных, полученные при помощи спутников и авиации. 

Нейросетевые алгоритмы дают возможность раньше выявлять, а значит и быстрее ликвидировать лесные пожары. Также велика их роль в мониторинге численности редких видов животных в заповедниках, отметил эколог.

«Многие из этих практик внедряются и в России, к примеру, анализ снимков, сделанных фотоловушками на особо охраняемых природных территориях, гораздо быстрее выполняет ИИ. Искусственный интеллект сможет вносить решающий вклад в выявление источников загрязнения окружающей среды и контроль за соблюдением бизнесом природоохранного законодательства, а также в повышении эффективности системы обращения с отходами», — сказал лидер «Зелёного патруля».

Применение нейросетей для экологических целей пока находится на ранней стадии и будет только расширяться.

«Даже Национальный экологический рейтинг субъектов Российской Федерации, формируемый «Зелёным патрулём» с 2007 года, будет сильно меняться с привлечением нейросетей. Нейросети обучаются, постепенно мы выйдем на очень хорошие результаты», — заключил Андрей Нагибин.

Ранее сообщалось, что специалисты НИУ ВШЭ разработали модель для оценки и прогнозирования распространения загрязняющих веществ в воздухе. После того, как её опробовали в нескольких локациях Москвы, Перми, Челябинска и Новосибирска, было доказано, что прогнозы этого ИИ-инструмента значительно точнее тех, которые делались до внедрения нейросети. Модель можно будет использовать для контроля промышленных источников загрязнения и проверки корректности работы датчиков экомониторинга. Также специалисты Сбера разработали аналитическую платформу «Геометрия», которая при помощи спутниковых снимков выявляет места вероятного незаконного складирования мусора. Проект поддержал «Российский экологический оператор», предоставивший разработчикам все данные о легальных и выявленных нелегальных мусорных полигонах. Сведения о возможном появлении стихийных свалок, предоставленные ИИ-моделью, будут оперативно проверяться на месте, что позволит быстрее обнаруживать нарушения и ликвидировать их последствия. 

Научный руководитель Института водных проблем РАН Виктор Данилов-Данильян констатировал, что прогресс по таким направлениям, как снижение уровня загрязнённости атмосферы и водоёмов, в России идёт очень медленно. На этом фоне значимость современных технологий, снижающих трудозатраты и повышающих эффективность решения экологических проблем, для нашей страны только возрастает.

Искусствовед Шаныгина рассказала, сможет ли ИИ заменить художника

Возможности искусственного интеллекта в последнее время расширяются стремительными темпами. Нейросети могут не только эффективно искать в интернете ответ на любой вопрос или помогать в написании студенческих работ, но и делать то, что, как ещё недавно считалось, доступно только человеческому разуму – создавать произведения искусства. Или по крайней мере то, что очень похоже на искусство. В сети легко можно найти музыку, написанную компьютерным алгоритмом. А картины, автором которых стал ИИ, уже внешне несильно уступают работам именитых художников и продаются на известных аукционах. Многие деятели искусства выражают беспокойство по поводу возможной скорой потери работы из-за того, что нейросеть полностью заменит человека и в этой области

О роли ИИ в искусстве и художественной ценности произведений, создаваемых нейросетями, изданию «Московские ведомости» рассказала художник-пейзажист, искусствовед Мария Шаныгина. Она выразила уверенность в том, что компьютер в искусстве никогда не заменит человека.

«Искусственный интеллект никогда не заменит художника просто потому, что у него нет эмоций, чувств, нет возможности изучать природу и человека так, как это делает художник. Нейросеть не может создать ничего нового, она генерирует картинки из уже существующих образов, картин, фотографий, из того, что уже есть в интернете», — отметила Шаныгина.

Фото из архива Марии Шаныгиной

Художница подчеркнула, что сгенерированную искусственным интеллектом картинку нельзя считать произведением искусства. Таковым работу можно признать только тогда, когда человек как-либо переработал эту картинку на холсте или в цифровом формате.

«Современные технологии активно развиваются и во многом могут облегчать работу человека. Ведь существуют разные художественные специальности – иллюстраторы, художники по костюмам и так далее. И многие мелкие задачи действительно можно поручать искусственному интеллекту, можно делать заготовки для фонов, генерировать каких-то новых персонажей. Всё это очень убыстряет и упрощает процесс, но без ума и креатива человека итогового результата не будет», — говорит Шаныгина. 

Эксперт уверена, что бороться с прогрессом бессмысленно, и стоит постепенно внедрять новые методы работы в разные сферы, в том числе в искусство:

«Я сама в этом плане консерватор, я не пользуюсь нейросетями, но знаю художников, которые этими инструментами пользуются. Не исключаю, что и мне они когда-нибудь пригодятся. У всех свой подход к работе, и постепенно искусственный интеллект тоже будет находить своё применение. К примеру, когда-то не существовало фотографии, и были только живописцы. Но потом изобрели фотографию, и художники стали использовать её в своей работе. К примеру, Шишкин обучал своих учеников перерисовывать с фотографий. Сначала это казалось кому-то диким, но потом стало привычным. Я пишу этюды с натуры. Идёт ли речь о пейзажах или портретах человека, для меня источником вдохновения будет возможность рисовать вживую. Отсюда берутся эмоции, идеи, цвета. Хочется вручную готовить холсты, краски, всё это придаёт живость работе. Но это только моё личное мнение. Если у кого-то получается создавать хорошие работы, используя нейросети, я могу за них только порадоваться».

В Москве пройдет форум «Промышленность нового времени»

В Москве 25 декабря стартует форум «Промышленность нового времени»

Участники форума обсудят цели нацпроектов 2025 года, механизмы господдержки, а также развитие промышленности и экономики. Мероприятие соберет представителей власти, около тысячи компаний, более 70 спикеров и 5 тысяч участников.

По словам председателя Комитета по регламенту и парламентской деятельности Совета Федерации Вячеслава Тимченко, кластер «Ломоносов» МГУ станет единой площадкой для диалога власти, бизнеса и промышленности. Дальнейшие шаги сотрудничества крайне важны для стабильного и инновационного развития экономики.

На форуме произойдёт обмен опытом и лучшими практиками в различных отраслях. Отдельной темой станет стратегия развития с использованием искусственного интеллекта и цифровых финансовых активов. Участникам форума представят пять тематических блоков, связанных с промышленной сферой. Речь будет идти о взаимодействии с властью, цифровых инновациях и технологиях, а также о кадрах и медиа в промышленности. 

Ключевым участником форума в сфере ИИ станет белорусская IT-компания X-Labs inc., которая представит около 30 современных проектов в высокотехнологичных сферах. В этой связи замминистра Минэкономразвития РФ Дмитрий Вольвач отметил интенсивность и глубину взаимодействия в инновационной сфере между Россией и Беларусью, что, по его словам, являются примером для партнеров из стран ЕАЭС и СНГ.

Основатель международных IT-проектов и CEO Blockchain Sports Ecosystem Дмитрий Саксонов, анонсируя предстоящий форум, отметил, что искусственный интеллект остаётся активно растущей по капитализации технологией в мире. На мероприятии, в частности, будут продемонстрированы востребованные ИИ-продукты, которые могут быть полезны не только бизнесу, но и государственным структурам.

Организаторами форума выступают Правительство Москвы, Комитет Совфеда по регламенту и парламентской деятельности и Финансовый университет при Правительстве РФ.

Ранее были названы ключевые направления развития IT-рынка в 2025 году. 

Сможет ли искусственный интеллект заменить учителей

Развитие искусственного интеллекта и его интеграция в образовательные процессы приобретает повсеместный характер. Эксперты все больше сходятся во мнении, что ИИ способен трансформировать интеллектуальную деятельность и оказать влияние на качество учебы и ее процесс

Высшая школа экономики (ВШЭ) намерена встраивать технологии ИИ во все свои образовательные программы с 2025 года, об этом сообщил в ходе Международного Кантовского конгресса в Калининграде ректор университета Никита Анисимов. 

Другие ВУЗы также не остаются в стороне — в России, заявила заместитель министра науки и высшего образования Ольга Петрова, уже 17 университетов и институтов предлагают бакалавриат по направлению «Искусственный интеллект». Сам ИИ она назвала помощником студента и преподавателя.

«Это инструмент, который у нас имеется. Раньше был калькулятор, потом он превратился в компьютер, а компьютер стал суперкомпьютером, позволяющим сделать решение задач более эффективным», — отметила Петрова, добавив, что процесс деятельности ИИ остается полностью управляемым.

Опасения по поводу того, что искусственный разум вытеснит ключевых специалистов и оставит людей без работы директор по развитию бренда Geek Brains Дмитрий Ющенко назвал преждевременными. По его словам, упор делается на активном взаимодействии человека с ИИ для того, чтобы упростить взаимодействие между людьми, ускорить достижение поставленных целей. 

О роли высоких технологий в сфере образования Дмитрий Ющенко рассказал в беседе с журналистом издания «Московские ведомости».

— Дмитрий, как ИИ можно применять в сфере образования?

— В первую очередь, это технологии для масштабирования количества людей, которые могут получить более качественное образование. Второе – это помощь преподавателям, тем людям, кто непосредственно оказывает образовательную услугу, это возможность работать быстрее и качественнее. И третье – это оценка и контроль качества и масштаба оказываемых образовательных услуг.

— Как вы думаете, в будущем искусственный интеллект сможет заменить учителей?

— Я думаю, об этом говорить преждевременно. Я считаю, что нет. Мое личное мнение: будут развиваться вторые пилоты, индустрия помощников, сокращаться скорость, масштабироваться объем оказываемых услуг. 

Искусственный интеллект часто галлюцинирует, выдает несоответствующую действительность информацию. Поэтому если удалить полностью человека из этого процесса, то есть риск создания совершенно некачественных материалов.

— Проректор НИУ ВШЭ Сергей Рощин на конференции сказал об эксперименте: чтобы студент написал свой диплом с помощью искусственного интеллекта. Если ваши слушатели, ученики будут пользоваться ИИ, как будут оцениваться их знания?

— На нашей платформе люди онлайн получают профессии в сфере ИТ. Наша задача развивать именно прикладные навыки, с которыми они выходят сразу на рынок труда. Поэтому мы, наоборот, своей целью ставим больше использовать ИИ и технологии промпт-инжиниринга. Это позволяет ученикам быстрее осваивать новые профессии.

Экономист Беляев объяснил, почему ИИ не сможет заменить человека в управлении экономикой

Роль искусственного интеллекта (ИИ) в управлении экономическими процессами не стоит преувеличивать, потому что он может выступать лишь инструментом для обработки и анализа крупных массивов данных, но рациональность ИИ в принятии решений разобьётся об иррациональную природу человека, рассказал изданию «Московские ведомости» кандидат экономических наук Михаил Беляев

Накануне Нового года министр финансов РФ Антон Силуанов сообщил, что министерство планирует внедрить ИИ в управление бюджетным процессом, и такая задача уже поставлена. Как заметил министр, последнее слово в принятии решений все же останется за человеком, тем не менее «было бы интересно послушать альтернативное мнение и проанализировать его».

«Применение ИИ в различных управленческих процессах действительно имеет большой потенциал, потому что позволяет анализировать огромные базы данных, и на основе этого анализа ИИ предлагает варианты решений. Однако Силуанов прав в том, что в управлении экономикой и бюджетным процессом последнее слово должно оставаться за человеком. Потому что ИИ всегда действует по рациональным алгоритмам, заложенным в него человеком. В то же время человеческая природа и природа всего общества во многом иррациональна. Она подчинена банальному эгоистичному «хочу», которое вряд ли сможет учесть логически построенный алгоритм. Поэтому не стоит путать технологические возможности с социальными формационными явлениями, которые лежат в основе общественных отношений и реакций людей на экономические ситуации», — отметил экономист Михаил Беляев в беседе с «Московскими ведомостями».

Сегодня ИИ внедряется в самых разных областях общественной жизни. К примеру, в Подмосковье умные технологии широко применяются в системе видеонаблюдения «Безопасный регион». 

Ранее «Московская газета» рассказывала о возможностях нейросетей при проектировании зданий.

Процент ошибок в работе искусственного интеллекта в медицине зависит от ряда нюансов

По каким причинам искусственный интеллект допускает ошибки, особенно в такой сфере, как медицина, разбирались «Московские ведомости»

Росздравнадзор приостановил применение медизделия с применением искусственного интеллекта из-за «отсутствия клинического эффекта и неоднократно выявленных дефектов функционирования», речь идёт о зарегистрированной в 2020 году система для анализов снимков компьютерной томографии Botkin.AI, разработанной компанией «Интеллоджик», сообщил «Ъ».

Критерии качества работы ИИ напрямую зависят от решаемых задач, сообщил «Московским ведомостям» директор АНО «Информационная культура» Иван Бегтин.

«Например, в медицине важным критерием является, чтобы точность алгоритма была не ниже, чем точность при принятии решений врачами. Для этого собирают подробную статистику и наборы данных, на которых можно обучать системы автоматизированного принятия решений, так называемые ADM-системы, к которым относят, в том числе системы с так называемым «мягким» ИИ. Ситуация вокруг Botkin AI мне лично неизвестна в подробностях, но в любом случае медицина – это та область, где подобные системы не могут применяться без одобрения регулятора, и регулятор, которым в данном случае выступает Росздравнадзор, должен разрабатывать регламенты одобрения устройств и продуктов с ИИ», — пояснил Иван Бегтин.

Проблема состоит в том, что на решения ИИ в медицинской, правоохранительной, инженерной или любой другой отрасли не стоит излишне полагаться, человек должен перепроверять эти решения, отметил представитель юридической фирмы «Сахаров и партнёры» Никита Истомин.

«ИИ может допускать ошибки, которые могут повлечь за собой последствия разной степени тяжести. Например, врач может поставить на основании ИИ неправильный диагноз. Это может быть ложноположительный или ложноотрицательный результат. В российском и мировом законодательстве есть запрет на автоматическое принятие решений. Так называется способ принятия решений, когда человек вообще исключён, участвует только в качестве оператора или стороннего наблюдателя», — сказал эксперт.

По мнению юриста, ИИ должен проходить обучение, а для этого надо брать откуда-то информацию.

«ИИ нужно брать откуда-то данные, но так, чтобы эти данные никому не принадлежали. Есть понятие персональных данных, закон о врачебной тайне. Клиника не может просто так их раздавать. Они должны быть из открытых источников. В 2021 году ко мне обратилась фирма, которая использовала ИИ, работавший только на одном типе данных – снимках рентгена, – и они его тренировали только на определённые виды заболеваний. Стоял вопрос защиты персональных данных – чтобы персональные данные пациентов не передавались за рубеж, поскольку софт для ИИ находился в России, а некоторые вычислительные мощности и хранилища определённых данных – за рубежом», — рассказал Никита Истомин.

Процент ошибок в работе искусственного интеллекта зависит от того, кто его обучал и насколько качественно, добавил правозащитник.

«Всё зависит от качества данных. В западных странах бывали случаи, когда ИИ ошибался в распознавании лиц людей определённой расы. Данные были большие, но там было 70% людей европеоидной расы, 20% людей негроидной расы, сколько-то процентов монголоидной и маленький процент людей смешанной расы. И в отношении европеоидов процент ошибок был ничтожно малый, а в отношении остальных увеличивался. Но вопрос не только в том, чтобы собрать данные, а ещё и в их качественности и точности. Изображения могут быть разной контрастности, разное освещение у объектов съёмки, разрешение и т.д., и всё это влияет на работу искусственного интеллекта. Нюансов очень много», — заключил собеседник издания «Московские ведомости».

Школьникам хотят запретить использовать нейросети для решения домашних заданий

Школьникам следует ограничить возможности использования нейросети. С такой инициативой выступил первый зампредседателя думского комитета по информационной политике, информационным технологиям и связи Антон Ткачёв.

По словам парламентария, с начала сентября значительно выросло количество запросов к работающим на территории страны нейросетям на решение задач, различных упражнений и подготовку текстов из школьной программы.

Депутат не сомневается, что запросы идут от российских школьников, которые стали решать задачи и готовить уроки с помощью искусственного интеллекта. Ткачёв рассказал журналистам, что уже направил соответствующий запрос в министерство просвещения РФ, в котором, в том числе предлагается ограничить возможности школьников получать от нейросетей ответы на задачи и упражнения из школьной программы.

Зампред профильного думского комитета не считает необходимым запрещать пользоваться услугами нейросетей, тем более что искусственный интеллект может помочь в образовании, если речь идёт о сборе необходимой информации. Однако, по словам политика, ИИ не должен превращаться из помощника в исполнителя.

«Мы ведь не зря запрещаем учащимся младших классов пользоваться на уроках математики калькуляторами. Ребёнок должен учиться мыслить. Бессмысленное переписывание домашних заданий, которое за школьника делает нейросеть, не приведёт ни к чему хорошему, а в ближайшем будущем лишит нас грамотных специалистов, умеющих мыслить критически в будущем», – заявил Ткачёв.

Парламентарий считает, что существуют технические возможности для блокировки запросов в нейросеть в части выполнения заданий из школьной программы. Но решить эту проблему можно только на уровне межведомственного взаимодействия.

Эксперт в области кибербезопасности Андрей Солодовников рассказал «Московским ведомостям», что технический запрет на подобные запросы школьников возможен, но больше в теории, чем на практике.

«Шпаргалку с ответом на любой вопрос из школьной программы можно найти в интернете без использования ИИ. Так называемых решебников в сети десятки. И пока никто не блокирует порталы, предоставляющие такую информацию. С нейросетью будет сложнее. Кроме того, школьники найдут возможность ставить нейросети корректную задачу в обход запретов, потому что ИИ давно обучен всем предметам школьной программы», – отметил эксперт.

Реклама