Красные линии: эксперты обсудили вопросы этики и права в сфере ИИ
Быстрое развитие технологий искусственного интеллекта требует опережающего этико-гуманитарного осмысления вероятных результатов прогресса и сбалансированных регуляторных мер, стимулирующих применение ИИ и ограждающих человека от возможного негативного влияния. Об этом эксперты говорили на Форуме этики в сфере искусственного интеллекта «Поколение GPT. Красные линИИ», который прошел в ТАСС. В его работе приняли участие представители Вышки.
Директор Национального центра развития искусственного интеллекта при Правительстве РФ (действует на базе ВШЭ) Сергей Наквасин, открывая форум, подчеркнул остроту этических вопросов развития и применения искусственного интеллекта и большое внимание общества к моральным проблемам ИИ. «Форум в этом году приобрел всероссийский масштаб: три дня накануне шел марафон в 12 регионах страны. Более тысячи человек приняли участие в открытой, честной, горячей, острой дискуссии. Мы накапливаем и обрабатываем результаты всех этих обсуждений», — сказал он.
По словам Татьяны Матвеевой, начальника Управления по развитию информационно-коммуникационных технологий и инфраструктуры связи Администрации Президента РФ, наша общая задача — обеспечение надежности, безопасности технологий ИИ и доверия к ним. «Все предложения, которые будут высказаны на форуме, помогут ответить нам на основные вопросы, на вызовы, которые стоят перед нами, и будут способствовать повышению доверия общества к технологиям искусственного интеллекта, формированию подлинного технологического суверенитета нашей страны», — подчеркнула она.
Заместитель министра экономического развития РФ Максим Колесников обратил внимание, что в мире нет единого понимания регулирования ИИ: в Европе приняты жесткие меры, а США и Китай придерживаются более мягких рамок. Россия выступает за гибридный подход, где отдельные элементы ИИ будут контролироваться законодательно, но в основном он будет регулироваться Кодексом этики в сфере ИИ и принципами, разработанными в диалоге с технологическим сообществом. «Более 270 компаний и органов государственной власти уже согласились соблюдать установленные кодексом принципы. Ожидаем, что сегодня к ним присоединится еще порядка 20 организаций», — заявил Максим Колесников.
В ходе круглого стола «Межкультурный взгляд на глобальные вызовы развития искусственного интеллекта» руководитель Международного научно-образовательного центра «Кафедра ЮНЕСКО по авторскому праву, смежным, культурным и информационным правам» НИУ ВШЭ профессор Михаил Федотов отметил, что российский Кодекс этики в сфере ИИ близок к рекомендациям, разработанным ЮНЕСКО. «Это хорошо, значит, позиции совпадают и мировой опыт перенимается Россией», — сказал он. По его мнению, кодекс следует дополнить комиссией по нейроправу, «потому что искусственный интеллект связан и с нашим естественным интеллектом». Эта комиссия займется ментальной и физической неприкосновенностью человека при вероятном вживлении имплантов в мозг и его защитой от возможной когнитивной цензуры. Необходима и комиссия, которая будет следить за исполнением требований Кодекса ИИ. В противном случае, считает Михаил Федотов, высок риск невыполнения его ключевых положений.
Он также предостерег от роботизации человека, вызванной алгоритмизацией производства и иных процессов. Возникает вероятность подмены лечения здравоохранением, творчества — имитацией, науки — наукометрией.
В треке, посвященном применению этических принципов в работе ученых и центров развития ИИ, руководитель проектов Центра экспертизы по реализации федерального проекта «Искусственный интеллект» Аналитического центра при Правительстве РФ Сергей Астахов отметил: чем масштабнее технология, тем острее встают этические вопросы ее применения. «Можем ли мы надеяться на развитие технологий в гармонии с этикой?» — поинтересовался он.
Руководитель Центра искусственного интеллекта НИУ ВШЭ Алексей Масютин подчеркнул: следует осмыслить этичность не самого искусственного интеллекта, а его применения. Например, его использование при генерации лекарств кратно сокращает время их разработки, что особенно важно при необходимости быстрого запуска их производства, однако аналогичные принципы можно применить и при разработке опасных материалов, в том числе химического оружия. Нейросети позволяют более качественно и быстро реставрировать, но с их помощью можно создавать и дипфейки, манипулирующие людьми.
Чтобы управлять этическими принципами использования ИИ, нужна работа ученых многих специальностей. В Центре искусственного интеллекта НИУ ВШЭ проект «Этическая экспертиза в сфере ИИ» возглавляет доцент Школы философии и культурологии университета Анастасия Углева.
Это, полагает эксперт НИУ ВШЭ, не снимает ответственности с разработчиков ИИ. В ходе подготовки программ следует тестировать их на возможность неэтичного применения, в том числе вероятной дискриминации отдельных групп людей. Ответственную задачу выполняют те, кто готовит данные для разработки, именно от качества их работы во многом зависит правильность алгоритмов работы искусственного интеллекта. Важно также совершенствовать инструменты детекции возможных недостатков программ, отметил Алексей Масютин.
Он также сообщил, что группа по этике Центра искусственного интеллекта регулярно оценивает качество баз и программ, в том числе и с индустриальными партнерами Вышки.
В рамках форума «Поколение GPT. Красные линИИ» были вручены награды за вклад в развитие этики в сфере искусственного интеллекта. За исследования по этической экспертизе в сфере ИИ и проведение регулярного научного семинара по гуманистическим и этическим аспектам развития цифровых технологий была отмечена доцент Школы философии и культурологии факультета гуманитарных наук НИУ ВШЭ Анастасия Углева.
Наквасин Сергей Юрьевич
Вам также может быть интересно:
В Вышке создали собственную MLOps-платформу
Ученые НИУ ВШЭ создали MLOps-платформу SmartMLOps. Она предназначена для исследователей в области искусственного интеллекта, которые хотели бы превратить свое изобретение в полноценный сервис. В будущем на платформе могут быть развернуты ИИ-помощники для упрощения образовательного процесса, оказания медицинской помощи, консультирования и решения многих других задач. Создатели ИИ-технологий смогут получить готовый к работе сервис в течение считанных часов. На суперкомпьютере Вышки этот сервис может быть запущен в несколько кликов.
«От нашей общей работы зависит будущее»: что несет человечеству развитие ИИ
Какие перспективы и вызовы для человечества несет развитие технологий искусственного интеллекта? Как его используют ученые? Каким будет мир, где доминирует ИИ? Эти и другие темы обсудили эксперты на форсайт-сессии «Будущее исследований в сфере искусственного интеллекта», которая прошла в НИУ ВШЭ.
ИИ позволит точно моделировать производительность систем хранения данных
Исследователи факультета компьютерных наук НИУ ВШЭ разработали новый подход к моделированию систем хранения данных на основе генеративных моделей машинного обучения. Он позволяет с высокой точностью предсказывать ключевые характеристики работы таких систем при различных условиях. Результаты опубликованы в журнале IEEE Access.
ИИ в образовании: как преодолеть соблазн готовых решений
Искусственный интеллект уже стал обыденностью для молодежи: как показал опрос, около 87% студентов ведущих вузов используют ИИ в процессе обучения. Большая часть из них отметила, что он помогает им экономить время, при этом они проверяют сделанную ИИ работу. Результаты исследования были представлены на конференции по анализу данных и технологиям ИИ Data Fusion. В ее работе приняли участие научный руководитель НИУ ВШЭ Ярослав Кузьминов и другие эксперты Вышки.
Большинство студентов не верят, что ИИ сможет заменить их на работе
Большинство студентов считают, что ИИ не сможет заменить их на работе в ближайшие десять лет. Низким такой риск называют 27,2% респондентов, 41,5% — крайне маловероятным. Эти оценки были получены НИУ ВШЭ в ходе опроса 4200 студентов в 2025 году. Они приводятся в докладе «Эпоха больших языковых моделей: почему они все еще не профессионалы», подготовленном научным руководителем НИУ ВШЭ Ярославом Кузьминовым и старшим преподавателем кафедры высшей математики НИУ ВШЭ Екатериной Кручинской. Доклад был представлен на XXV Ясинской (Апрельской) международной научной конференции по проблемам развития экономики и общества, которая проходит с 15 по 18 апреля в НИУ ВШЭ.
Точный ИИ-оракул: какие тренды интересуют бизнес
Современные технологии ежедневно меняют мир, автоматизируя бизнес-процессы в различных отраслях. Специалисты НИУ ВШЭ представили масштабный опыт команды iFORA по реализации ИИ-проектов в интересах крупных компаний и органов власти.
Перспективы ИИ: математика машинного обучения в фокусе
Институт искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ провел выездной воркшоп «Математика машинного обучения». Здесь собрались ведущие ученые и специалисты НИУ ВШЭ в области машинного обучения, математики и статистики. В центре внимания исследователей оказались математические аспекты, лежащие в основе современных и наиболее перспективных направлений машинного обучения. Программа воркшопа включала мини-курсы, практические работы, доклады и круглый стол, посвященный перспективам развития ИИ в России.
Внедрение искусственного интеллекта в организации: какие эффекты отмечают сотрудники
45% организаций, которые занимались внедрением ИИ в работу, заявили о повышении производительности труда в результате его использования. Об этом говорится в исследовании «Внедрение ИИ в работу организаций: чем обусловлена вариация эффектов на труд?». Исследование проведено директором Центра статистики труда и заработной платы ИСИЭЗ НИУ ВШЭ Анной Демьяновой и стажером-исследователем центра Дарьей Талакаускас. Оно было презентовано на XXV Ясинской (Апрельской) международной научной конференции по проблемам развития экономики и общества (XXV ЯМНК), проходящей в НИУ ВШЭ с 15 по 18 апреля.
«Идею всегда задает человек»: что дает ИИ образованию и медиа
ИИ-технологии меняют принципы работы образования и медиаиндустрии. Большинство студентов уже в той или иной мере используют ИИ, а нейросети уже массово производят все виды контента. Возможности и вызовы эксперты обсудили на конференции «Образование и медиа в эпоху цифровых перемен», организованной Дирекцией по маркетинговым коммуникациям НИУ ВШЭ и «Яндекс Образованием».
В Вышке стартовали открытые семинары «ИИ в индустрии»
Институт искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ запустил цикл открытых семинаров. Встречи посвящены актуальным вопросам внедрения искусственного интеллекта в различные отрасли экономики. Семинары проводятся еженедельно в 18:00 в кампусе на Покровском бульваре. Для участников также предусмотрена онлайн-трансляция.