Специалист в области разработки ПО — о том, для чего нам нужен и не нужен ИИ

МонокльHi-Tech

Почему ИИ не знает, что у кошки четыре ноги

Важнейшие вопросы, связанные с распространением искусственного интеллекта, оказывается, почти не ставятся и совсем не решаются. По крайней мере, так было до этого интервью

Михаил Захаров

Игорь Ашманов: «У нас должны быть свои приоритеты. И не факт, что генерирующие нейронные сети, болталки, бредогенераторы, к нашему цивилизационному будущему имеют отношение». Андрей Епихин/ТАСС

Наш разговор с Игорем Ашмановым, специалистом в области искусственного интеллекта и разработки программного обеспечения, главой компании «Ашманов и партнеры», начался с вопросов: почему многие доступные в России интерактивные сервисы в интернете, где вам отвечает чат-бот с генеративным искусственным интеллектом, на политически и исторически значимые вопросы дают совершенно «не наши», антироссийские ответы? И можно ли что-то с этим поделать?

При том что к американскому GhatGPT напрямую в России не подключиться, практически эта технология доступна на многих сайтах. Да и чат-боты официально российского происхождения могут поговорить с вами на важные темы уклончиво, а то и вовсе не официально и не «по-российски».

Наш собеседник подробно ответил, но затем сам поставил вопрос, причем уже шире. Охарактеризовав популярное направление развития и внедрения в жизнь ИИ как бредогенератор, Игорь Ашманов указал на целый ряд нешуточных опасностей применения этой технологии, особенно в попытках заменить ею общение с человеком, как в госорганах, так и в коммерции, использования ее для принятия важных решений и — на другом уровне, но с далекоидущими последствиями — ее применения учащимися. А также на то, что распространение ИИ сопровождается порядочной безответственностью.

Но есть и позитив. ИИ, не генеративный, нужен нам в промышленности, необходим в военных применениях. А за пределами этих и некоторых других насущных задач мы все еще свободны от того, чтобы скормить ему миллиарды рублей и гигаватты энергии. И у нас есть возможность остаться свободными не только от материальных затрат, но и, что еще важнее, как личности, но это потребует ума — настоящего — и усилий, предпринимать которые мы пока что не разучились.

«Повесточка» в методичках

— Надо начать с самого начала. ChatGPT или другие нейронки с большой лингвистической моделью, LLM, которых сейчас много, в основном производятся в США. Да, недавно был всплеск энтузиазма по поводу китайского DeepSeek. Но даже китайский DeepSeek, если его потрепать и поспрашивать, в некоторых обстоятельствах говорит, что сделали его в американской компании OpenAI, а вовсе не в Китае.

Это не значит, что его там сделали, а значит, скорее всего, что это сборная солянка, Франкенштейн.

Короче говоря, больших лингвистических моделей много, они разные, но все они делаются преимущественно в Америке. И уж как минимум движок, который их оживляет, то есть сама нейронная сетка, нейронный фреймворк, он точно придуман и сделан в США.

Как эти модели учатся, довольно хорошо известно, есть довольно много инструментов для их инструктирования. Существует массовая легенда, которая зацепила и наших людей тоже, что искусственному интеллекту дают просто походить по интернету, выкачать все тексты на свете, после чего он становится очень умным. Но это очень далеко от истины.

Там довольно много ручной работы, и эту работу порой делают десятки тысяч человек. В частности, есть так называемые асессоры, которых нанимают в Нигерии, в Индии и других странах, низкооплачиваемые, по возможности с английским языком, которым дают задание обучать LLM.

Например, есть вопрос к нейронке, ChatGPT или любой другой, и есть пять ее возможных ответов. Асессорам нужно выбрать оценку от «неприемлемо» до «очень хорошо» и поставить пять оценок. При этом существует методичка — страниц на тридцать, как рассказывают участники, — которая объясняет, как именно выставлять оценку, что хорошо, а что плохо.

Вот в этих методичках была «повесточка» в полный рост: и экологическая, и ЛГБТ*, и русофобская, и либеральная, и все, что хочешь. То есть туда закладывалась либеральная модель мира со всей этой ерундой и гадостью последние двадцать пять лет.

* Международное общественное движение ЛГБТ признано в России экстремистским и запрещено.

Наши «отечественные» большие лингвистические модели, которые у нас преподносятся как сделанные с нуля, на самом деле таковыми не являются. В первое время, когда на нашем горизонте появился ChatGPT 3.5, это произошло в январе два года назад, у нас в IT-отрасли и в медиа возникла истерика.

Люди в больших компаниях, которые до этого рапортовали наверх всем, включая самого большого начальника, о том, что у них тоже есть искусственный интеллект, что они в этом очень хорошо понимают и впереди планеты всей, пришли в ужас, потому что ничего подобного сделано не было, а начальник мог бы спросить, почему.

И дальше у них была прямо гонка, как быстро-быстро показать, что у них тоже это есть. Естественно, все было взято заподлицо, с цельнотянутыми движками, с цельнотянутыми данными и так далее, а затем переупаковано, чтобы предъявить и сказать, что у нас есть то же самое.

Поэтому эти большие модели в течение года-полутора как минимум на вопрос, кто тебя сделал, отвечали, что их сделала американская корпорация OpenAI.

Там, в этих наших цифровых гигантах, настолько люди наглые и беспардонные, что они поленились такое правило руками написать: когда спрашивают «кто тебя сделал?», надо сказать, что сделала их компания. Они настолько были уверены, что всем заморочат голову, что поленились сделать это руками. А это, в общем-то, совершенно нетрудно.

— Как можно понять, что полноценной «переупаковки» так и не произошло? Существуют ли интерактивные системы, которые обучались преимущественно на российском контенте? Ведь их широко используют, в том числе учащиеся при подготовке ответов на учебные задания.

— Вы, наверное, слышали истории, когда генеративному ИИ-сервису говорят нарисовать гайку, а он рисует орех. Почему? Потому что в английском языке есть два омонима. Nut — это и гайка, и орех. Сразу видно, что внутри «отечественного» движка запрос сначала переводится на английский, а уж дальше происходит ошибка с выбором не того омонима.

Это прямое доказательство, что это цельнотянутая вещь. Потом, конечно, эта переупаковка стала проникать глубже, но, в общем, наш искусственный интеллект очень вторичен. Нет у нас своих нейронных фреймворков. Нейронный фреймворк — это что-то вроде нейронной операционной системы, которая исполняет поверх себя всякие нейронные ИИ-приложения, в том числе большие лингвистические модели.

Вот этой нейронной операционной системы у нас нет. У нас есть западные нейронки, которые мы скачиваем в исходных текстах (как Linux), здесь компилируем и потом поверх них строим эти большие лингвистические модели, очень часто тоже либо по статьям американцев, либо просто есть готовый код и данные.

А потом берем и запускаем приложения на этих нейронных фреймворках — там разные приложения есть: распознавание лиц, генерация текста, генерация голоса и так далее. Вот это все очень вторично, и все это пронизано западной либеральной повесткой и ненавистью к русским. Это нашим разработчикам ИИ удается каким-то образом замаскировать.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Слегка несдержанный Слегка несдержанный

Квартира со сдержанным, но при этом эмоциональным интерьером

Идеи Вашего Дома
Запутавшееся в кредите образование Запутавшееся в кредите образование

Почему кредит на образование недостаточно популярен среди студентов?

Ведомости
Идем на восток Идем на восток

Увидеть 3 архитектурные эпохи, пожить в XVIII веке и отведать арзамасских гусей

Вокруг света
Изобретая наследие Изобретая наследие

Как экономика впечатлений меняет российские города

Эксперт
«А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход «А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход

Поставщики начали отказывать в поставках гелия даже научным лабораториям

ТехИнсайдер
«Мировое разделение труда — вещь очень ненадежная» «Мировое разделение труда — вещь очень ненадежная»

О работе самого большого промышленного холдинга страны, госкорпорации «Ростех»

Эксперт
Российское бьюти-чудо: как меняется отечественная индустрия косметики Российское бьюти-чудо: как меняется отечественная индустрия косметики

Как российская косметика становится полноценным трендсеттером

РБК
Выстрел в финале пьесы Выстрел в финале пьесы

Кадровый дефицит в милиции: что говорят архивы и уголовные дела

Дилетант
Монеты в восточной пыли Монеты в восточной пыли

Важным источником наших знаний об античной истории являются монеты

Знание – сила
Лингвистические фантомы Лингвистические фантомы

Как в русском языке появляются псевдоанглицизмы

Наука и жизнь
Ирина Мирошниченко: «Я дала понять Андрею Тарковскому, что я замужем» Ирина Мирошниченко: «Я дала понять Андрею Тарковскому, что я замужем»

Актриса Ирина Мирошниченко рассказывает о своей молодости и начале карьеры

Коллекция. Караван историй
Мария Андреева: «Нам самим круче, когда близкому хорошо» Мария Андреева: «Нам самим круче, когда близкому хорошо»

Мария Андреева: страх перед возрастными ролями и недоумение от молодых актеров

VOICE
Давай поженимся! Разбираемся, как подтолкнуть любимого к разговору на эту тему Давай поженимся! Разбираемся, как подтолкнуть любимого к разговору на эту тему

Вы уже вместе не один год, а предложения руки и сердца не поступало. Что делать?

Лиза
Арена на двоих Арена на двоих

Как исторически складывались отношения России и США

Эксперт
Пишем красиво Пишем красиво

Надо ли тратить силы и время, чтобы научить ребенка красиво писать?

Лиза
10 вещей, которые нельзя стирать вместе, если ты не хочешь, чтобы они износились раньше времени 10 вещей, которые нельзя стирать вместе, если ты не хочешь, чтобы они износились раньше времени

Какие вещи никогда не следует совмещать в стиральной машине?

VOICE
«Сейчас период повышения внутренней эффективности» «Сейчас период повышения внутренней эффективности»

Дмитрий Фосман — о перспективах развития экспорта и работе по привлечению кадров

Агроинвестор
Волна долговых кризисов неизбежна Волна долговых кризисов неизбежна

Как институты развития могут работать в международных проектах

Эксперт
Победители и побеждённые Победители и побеждённые

Противоречивый мир Англии: норманны властвовали землей, а саксы её возделывали

Дилетант
Гарегин Тосунян: «В силу непонятных нам причин рынок сжимают» Гарегин Тосунян: «В силу непонятных нам причин рынок сжимают»

Как оценивается состояние экономики и банковского сектора

Монокль
Блеск и несчастья «Великого Гэтсби» Блеск и несчастья «Великого Гэтсби»

Краткая история главного американского произведения 1920‑х

Weekend
Найти подругу на фитнесе: как женщины объединяются и социализируются благодаря спорту Найти подругу на фитнесе: как женщины объединяются и социализируются благодаря спорту

Как и почему вокруг занятий спортом формируются сообщества

Forbes
Возвращение гребного колеса Возвращение гребного колеса

Первые упоминания о гребном колесе относятся еще к древнейшим временам...

Наука и техника
Хватит играть в GTA: топ-5 крутых игр с открытым миром на ПК Хватит играть в GTA: топ-5 крутых игр с открытым миром на ПК

Каким играм с открытым миром стоит уделить время?

Maxim
3 бизнес-ошибки основателя фастфуд-сети Mary Wong 3 бизнес-ошибки основателя фастфуд-сети Mary Wong

Основатель Mary Wong — о шишках, которые набил в процессе развития фастфуд-сети

Inc.
8 признаков, которые говорят о том, что парикмахер плохо тебя подстрижет 8 признаков, которые говорят о том, что парикмахер плохо тебя подстрижет

Красные флаги, указывающие на то, парикмахер сделает тебе плохую стрижку

VOICE
Как перестать повторять одни и те же ошибки: советы психолога Как перестать повторять одни и те же ошибки: советы психолога

Почему мы возвращаемся к старым ошибкам и как выйти из замкнутого круга?

VOICE
Культура сбережений: зачем откладывать на завтра то, что можно потратить сегодня? Культура сбережений: зачем откладывать на завтра то, что можно потратить сегодня?

Зачем каждому гражданину нужно выработать у себя привычку делать сбережения?

Наука и техника
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Одной из тем обсуждения в научной фантастике ХХ века была космическая экспансия

Наука и жизнь
Пленка и рынок: отрывок из книги «Царапины и глитчи. О сохранении и демонстрации кино в начале XXI века» Пленка и рынок: отрывок из книги «Царапины и глитчи. О сохранении и демонстрации кино в начале XXI века»

Эссе из сборника «О сохранении и демонстрации кино в начале XXI века»

Правила жизни
Открыть в приложении