Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что такое торможение двигателем и как правильно его применять Что такое торможение двигателем и как правильно его применять

Торможение двигателем — крайне полезный и эффективный приём

РБК
Бронетехника для выполнения специально-боевых задач Бронетехника для выполнения специально-боевых задач

Колесные бронированные машины как нельзя лучше подходят для задач Росгвардии

Обозрение армии и флота
Самый яркий гамма-всплеск породил очень мало тяжелых элементов Самый яркий гамма-всплеск породил очень мало тяжелых элементов

«Джеймс Уэбб» нашел сверхновую, связанную с ярчайшим гамма-всплеском в истории

N+1
И ты — жук И ты — жук

«Задача трех тел»: экранизация китайского сай-фая об ученых и пришельцах

Weekend
Необычная традиция: почему на Пасху принято красить яйца Необычная традиция: почему на Пасху принято красить яйца

Почему на пасху мы красим именно яйца? И зачем вообще это делаем?

ТехИнсайдер
Капроновый чулок на голове: как попытка переодеть партнершу может быть формой абьюза Капроновый чулок на голове: как попытка переодеть партнершу может быть формой абьюза

Как влияние на стиль одежды партнера может быть формой абьюза

Forbes
Как снизить кортизол в организме: 6 эффективных способов Как снизить кортизол в организме: 6 эффективных способов

Как понизить уровень кортизола? С чем связано его накопление в организме?

Psychologies
Как сжать файл ПДФ: несколько простых способов для ПК и телефона Как сжать файл ПДФ: несколько простых способов для ПК и телефона

Сегодня мы расскажем, как сжать ПДФ документ, чтобы он весил меньше

CHIP
Астрономы нашли на Луне потенциальный источник квазиспутника Земли Астрономы нашли на Луне потенциальный источник квазиспутника Земли

Астероид Камоалева мог быть выбит с поверхности Луны в прошлом

N+1
«Нельзя узнать Францию,.. «Нельзя узнать Францию,..

Почему все любят французскую кухню? Что сделало ее самой изысканной?

Зеркало Мира
От больших данных ждут большего От больших данных ждут большего

Рынок решений по хранению и обработке больших данных бурно растет

Монокль
Небермудский треугольник: как мы становимся заложниками собственной ролевой игры в отношениях Небермудский треугольник: как мы становимся заложниками собственной ролевой игры в отношениях

В чем суть треугольника Карпмана и его опасность, а главное: как из него выйти?

Psychologies
Самый первый iPhone. Когда вышел и каким он был Самый первый iPhone. Когда вышел и каким он был

Кто создал iPhone, как он выглядел и сколько стоил

Цифровой океан
«Зачем ты это ляпнул?!»: мужчины объясняют, почему они хейтят женщин «Зачем ты это ляпнул?!»: мужчины объясняют, почему они хейтят женщин

Почему некоторые мужчины начинают знакомство с грубости?

VOICE
Как помыть машину во дворе и не налететь на штраф Как помыть машину во дворе и не налететь на штраф

Как помыть машину, не нарушив при этом санитарные и экологические нормы

ТехИнсайдер
Опытным путем Опытным путем

Шеф-повара вспоминают жизненные уроки на старте своей карьеры

Grazia
Усиление прибрежных апвеллингов назвали угрозой для мигрирующих морских обитателей Усиление прибрежных апвеллингов назвали угрозой для мигрирующих морских обитателей

Гибель сотен морских животных оказалась связана с усилением апвеллинга

N+1
Российский бренд на Балтике: янтарная история РФ Российский бренд на Балтике: янтарная история РФ

Знакомьтесь с очередным драйвером экономики, задающим тренды мирового рынка

ФедералПресс
Юлия Шляпникова: «Наличники». Мистический роман о родовых проклятиях Юлия Шляпникова: «Наличники». Мистический роман о родовых проклятиях

Призраки прошлого в мистическом романе Юлии Шляпниковой «Наличники»

СНОБ
Что не так со «Смутой» от новосибирской студии Cyberia Nova Что не так со «Смутой» от новосибирской студии Cyberia Nova

Разбираемся в причинах провала главной российской игры этого года

Maxim
Разошелся: что говорит всем Павел Дуров, где правда и как это повлияло на стоимость его криптовалюты TON Разошелся: что говорит всем Павел Дуров, где правда и как это повлияло на стоимость его криптовалюты TON

«Свободная экономика — это было то, что нужно, во всяком случае, для меня»

Inc.
Переждать бурю Переждать бурю

Как помочь ребенку пережить гормональную бурю в 10-14 лет?

Лиза
Кем ты хочешь стать, когда выспишься? Кем ты хочешь стать, когда выспишься?

Как помочь себе, если страдаешь по ночам и не можешь уснуть без проблем

VOICE
Возвращение Возвращение

Рассказ писательницы Екатерины Манойло

Grazia
От музея братьев Васнецовых до древних динозавров: чем удивит туристов Кировская область От музея братьев Васнецовых до древних динозавров: чем удивит туристов Кировская область

Что посмотреть в Кировской области, куда обязательно сходить в ее столице?

ФедералПресс
Мужчины глазами девушек: что стоит за словами «масик», «тюбик», «штрих» и «чечик» Мужчины глазами девушек: что стоит за словами «масик», «тюбик», «штрих» и «чечик»

Зачем девушки придумали новую типологию мужчин?

Psychologies
Как и зачем птицы помогают друг другу. Отрывок из книги Как и зачем птицы помогают друг другу. Отрывок из книги

Почему основным законом природы стоит считать не борьбу за выживание

СНОБ
Антон Первушин: Существовала засекреченная советская программа слежения за американскими кораблями «Аполлон», летавшими к Луне Антон Первушин: Существовала засекреченная советская программа слежения за американскими кораблями «Аполлон», летавшими к Луне

Почему вокруг космоса существует столько мифов и конспирологических теорий?

СНОБ
Лего выдающихся джентльменов Лего выдающихся джентльменов

Как наследник основателя LEGO придумал концепцию гаража для состоятельных людей

RR Люкс.Личности.Бизнес.
Как узнать где летит самолет — следим за рейсом с помощью смартфона или компьютера Как узнать где летит самолет — следим за рейсом с помощью смартфона или компьютера

Следить за движением любого самолета в мире не сложнее, чем за доставщиком пиццы

CHIP
Открыть в приложении