Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Цикорий: доказанная польза для мужчин и возможные побочные эффекты Цикорий: доказанная польза для мужчин и возможные побочные эффекты

Цикорий — здоровая альтернатива кофе или что-то большее?

Playboy
Остап Бендер: авантюрист с психопатическими наклонностями Остап Бендер: авантюрист с психопатическими наклонностями

Что сделало Остапа Бендера «великим комбинатором» и очаровательным мошенником?

Psychologies
Что такое движок Unreal Engine 5, и что он может? Что такое движок Unreal Engine 5, и что он может?

Все, что нужно знать про движок Unreal Engine 5

CHIP
5 «языков конфликта» в паре: почему так важно их знать 5 «языков конфликта» в паре: почему так важно их знать

Пять основных стилей конфликтного поведения

Psychologies
45 в «кубе» 45 в «кубе»

За что мы любим «Гелендваген»

Автопилот
«Оскар»: история старейшей кинопремии мира «Оскар»: история старейшей кинопремии мира

Рассказываем историю одного из важнейших событий киноиндустрии

ТехИнсайдер
Печальные антропики Печальные антропики

Иван Чемакин: бриколаж как принцип

Weekend
Новые имена. Пять избранных фильмов кинофестиваля «Дух огня — 2024» Новые имена. Пять избранных фильмов кинофестиваля «Дух огня — 2024»

Самые яркие картины форума «Дух огня — 2024»

СНОБ
Что нужно обязательно сделать с автомобилем, если вы уезжаете на длительное время Что нужно обязательно сделать с автомобилем, если вы уезжаете на длительное время

Перед тем, как оставить автомобиль без движения, нужно о нём позаботиться

Maxim
6 актеров, которые просто созданы для боевиков 6 актеров, которые просто созданы для боевиков

Вспомнили одних из самых брутальных мужчин мирового кинематографа

Maxim
Код: элегантность Код: элегантность

Интерьер в стиле рафинированного софт-минимализма

SALON-Interior
Александр Рогов Александр Рогов

Арт + фэшн у Рогова дома: музей редких вещей Гвасалии и Прада

Собака.ru
Как перестать быть прислугой в собственном доме: 5 шагов Как перестать быть прислугой в собственном доме: 5 шагов

Почему мы выходим замуж, будучи принцессами, а становимся прислугой?

Psychologies
Эволюция производства иранских противотанковых ракетных комплексов Эволюция производства иранских противотанковых ракетных комплексов

Как совершенствуется ключевая система оборонительной стратегии Ирана — ПТРК

Обозрение армии и флота
Ученые узнали, какая диета увеличивает продолжительность жизни Ученые узнали, какая диета увеличивает продолжительность жизни

Как нужно питаться, чтобы жить значительно дольше?

ТехИнсайдер
Детские страшилки: правда, что если потрогать жабу, то вырастет бородавка? Детские страшилки: правда, что если потрогать жабу, то вырастет бородавка?

Откуда берутся бородавки и причем тут жабы?

ТехИнсайдер
Минэкономразвития повысило прогноз по росту экономики и доходов: что за этим стоит Минэкономразвития повысило прогноз по росту экономики и доходов: что за этим стоит

Минэкономразвития пересмотрело трехлетний прогноз экономического развития

Forbes
Смену власти в майяском городе отметили сожжением останков прежних правителей Смену власти в майяском городе отметили сожжением останков прежних правителей

Следы сожжения останков правителей археологи нашли в одной из пирамид

N+1
Человеческий фактор Человеческий фактор

Как голландцы спасли свои каналы, а упавший самолет – целый район?

Вокруг света
Импортозамещение труда Импортозамещение труда

Привлечение трудовых ресурсов должно регулироваться исходя из приоритета

Монокль
Бронетехника для выполнения специально-боевых задач Бронетехника для выполнения специально-боевых задач

Колесные бронированные машины как нельзя лучше подходят для задач Росгвардии

Обозрение армии и флота
Год Дракона Год Дракона

Китайские драконы, царящие на российском автомобильном рынке

RR Люкс.Личности.Бизнес.
Паразит рептилий два года прожил в глазу поевшей крокодилятины конголезки Паразит рептилий два года прожил в глазу поевшей крокодилятины конголезки

Врачи извлекли из глаза молодой женщины личинку пятиустки Armillifer grandis

N+1
Как продлить свежесть педикюра после салона: 5 золотых правил для гладких пяток и безупречного покрытия Как продлить свежесть педикюра после салона: 5 золотых правил для гладких пяток и безупречного покрытия

Как ухаживать за стопами и свежим педикюром?

VOICE
Толстый и Достоевский Толстый и Достоевский

«Утопия»: как сериал о теории заговора породил теорию заговора

Weekend
Зумеры мечтают работать, не работая: что такое ресентеизм Зумеры мечтают работать, не работая: что такое ресентеизм

Действительно ли избегание работы у зумеров кроется в нежелании трудиться?

Psychologies
Новая эстетика: как рестораторы возрождают пивную культуру в Москве Новая эстетика: как рестораторы возрождают пивную культуру в Москве

Почему пиво и вино не конкуренты и в чем сложность открытия в Дубае

Forbes
Этруски – кто они?.. Этруски – кто они?..

Этруски — один из самых древних и загадочных народов Европы

Зеркало Мира
Юлия Франц: «В театральном легко не бывает» Юлия Франц: «В театральном легко не бывает»

И на меня в частности вылился поток злых комментариев, оскорблений и даже угроз

Караван историй
Что такое сквош и почему всем стоит его попробовать Что такое сквош и почему всем стоит его попробовать

Сквош — это ракетный, самый активный и быстрый вид спорта

Maxim
Открыть в приложении