Футуролог о сильном искусственном интеллекте

Цифровой океанHi-Tech

Мыслю, значит, существую

В конце 2023 года весь мир заговорил о сильном искусственном интеллекте. Поводом стало загадочное увольнение главы OpenAI Сэма Альтмана с последующим восстановлением в должности через пять дней. По слухам, одной из причин стал прорыв в создании машинного разума, ставящий под угрозу все человечество. Футуролог Данила Медведев помог «Цифровому Океану» оценить шансы разработчиков на создание сильного ИИ.

Данила Медведев

Российский общественный деятель, философ, футуролог, популяризатор науки. Один из создателей Российского трансгуманистического движения, с июня 2005 года член координационного совета Российского трансгуманистического движения. Председатель Совета директоров российской крио компании «КриоРус». Ведущий «Программы на будущее» на телеканале «Россия-2» (2011–2013). Кандидат экономических наук.

Сильный (общий, универсальный) искусственный интеллект — гипотетическая компьютерная система, способная мыслить, осознавать себя и самообучаться для решения любых задач

OpenAI — американская научно-исследовательская организация, разработчик систем искусственного интеллекта, в том числе GPT-4 и ChatGPT

Могли ли в OpenAI сделать сильный искусственный интеллект?

Зависит от того, что именно мы понимаем под сильным ИИ. Википедийное определение слишком широкое и позволяет всем участникам хайпа — разработчикам, венчурным инвесторам, СМИ — приукрашивать реальность в свою пользу.

Все более-менее согласны с тем, что своей универсальностью сильный ИИ подобен человеческому. Тогда не мешало бы условиться, какие требования мы предъявляем к самим людям. Отвечать на вопросы в чате — это один уровень. Управлять автомобилем, доставлять посылки, укладывать асфальт — другой. Ходить по Москве в теле робота и решать какие-то вопросы — третий. Наконец, создать новый жанр в искусстве или написать симфонию — четвертый.

Определить «общечеловеческий уровень» интеллекта сложно, потому что современное общество практически запрещает нам его измерять — а следом и изучать. Измерения приводят к сравнению, а это уже табу. Когда Джеймс Уотсон заикнулся о том, что уровень интеллекта может коррелировать с расой, он чуть не лишился карьеры — и неважно, что он нобелевский лауреат. В статье 2014 года психолог Эрл Хант указал, что из шести ведущих американских вузов с программами по психологии ни один не изучает интеллект — от греха подальше.

Пока мы стесняемся мериться интеллектами, разработчики натаскивают ИИ на решение «сложных человеческих задач» — учат его играть в шахматы, словно механического турка, сдавать экзамен на адвоката или сочинять рэп. Чтобы получать венчурные деньги, ИИ-стартапам необходимо демонстрировать эффектный «результат» в кратчайшие сроки.

Тот ИИ, который сможет читать рэп, водить машину и выступать в суде, и будет универсальным, разве не так?

Такой подход может направить разработчиков по ложному следу, особенно тех, у которых есть сто миллиардов долларов. Когда у тебя есть сто миллиардов долларов, ты мыслишь немного не так, как обычные люди. К примеру, у певицы Мэрайи Кери есть специальный сотрудник: он подает напитки, чтобы она пила из трубочки. Даже над самыми мелкими проблемами крупные корпорации предпочитают не думать, а просто закидывать их деньгами. В итоге половина людей в развитых странах занята тем, что Дэвид Гребер называл «буллшит джобс».

Применительно к ИИ принцип работает так. Со стороны рынка или даже сообщества экспертов поступают запросы: ваша модель должна уметь водить машину, сочинять сказки, управлять бизнесом. Разработчики оперативно добавляют в программу новые функции, демонстрируют результат — и при этом не делают внутри модели никаких структур, способных порождать интеллект. Так поступают все крупные компании: российские, американские, китайские.

Однако бесконечная сумма подпрограмм никогда не сравняется с универсальным интеллектом. Любой айтишник знает, что с ростом сложности системы затраты на ее поддержку растут квадратично или еще быстрее. Можно до бесконечности пытаться совместить перехватчик, разведчик и стелс-бомбардировщик в одной машине, но дешевле и эффективнее будет сделать три разных самолета.

Человек развил интеллект не потому, что по очереди учился разным вещам. Есть базовые принципы, они породили базовые механизмы, благодаря которым мы можем делать то, что мы делаем, — мыслить. Были буквально две-три функции, не пятьдесят и не сто, которые породили все наши способности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Бог из машины Бог из машины

Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг света
Почему дергается глаз Почему дергается глаз

Подергивание глаз: частые и неочевидные причины

Лиза
Здоровье дороже Здоровье дороже

В каком случае вам продадут страховку от критических заболеваний

Деньги
Психоистория коллекционирования Психоистория коллекционирования

Почему людям разных эпох неизменно нравилось собирать редкие вещи?

Правила жизни
Самолет комсомольцев Самолет комсомольцев

Уникальный авиационный проект, созданный комсомольцами и на деньги комсомола

Популярная механика
12 фраз, которые ни в коем случае нельзя говорить партнеру во время секса 12 фраз, которые ни в коем случае нельзя говорить партнеру во время секса

Список фраз, которые стоит избегать в постели

Psychologies
Не пора ли подумать о протекционизме? Не пора ли подумать о протекционизме?

Протекционизма как системы защиты в России пока нет

Монокль
Концерты, которые вызывают землетрясение: рейтинг самый громких и «трясущихся» Концерты, которые вызывают землетрясение: рейтинг самый громких и «трясущихся»

Какие концерты когда-либо сотрясали землю?

ТехИнсайдер
«Забот меньше, зарабатываю столько же»: топ-менеджеры о том, почему выбрали понижение в должности и стали разработчиками «Забот меньше, зарабатываю столько же»: топ-менеджеры о том, почему выбрали понижение в должности и стали разработчиками

Специалисты рассказали, почему решили спуститься вниз по карьерной лестнице

VC.RU
9 легких способов расположить к себе людей без всяких манипуляций 9 легких способов расположить к себе людей без всяких манипуляций

Как с помощью подсознания вызвать симпатию у любого человека?

Maxim
12 фраз, оставленных Христом 12 фраз, оставленных Христом

Мудрость Священного Писания, которая поможет найти утешение в трудные времена

Psychologies
Театральный роман эпохи умолчаний Театральный роман эпохи умолчаний

Частные переписки в альманахе «Мнемозина»

Weekend
Катастрофическое вымышленное Катастрофическое вымышленное

«Предчувствие»: Бертран Бонелло объясняет, что такое тревога

Weekend
2 главных признака того, что отношения стали скучными 2 главных признака того, что отношения стали скучными

Отсутствие новизны в отношениях рано или поздно настигнет вас

Psychologies
Глобальные показатели рождаемости снизились в два раза за 60 лет Глобальные показатели рождаемости снизились в два раза за 60 лет

В 110 странах не наблюдается воспроизводства населения

N+1
Шоколад Шоколад

«Пища богов». Именно так называют продукт, знакомый каждому сладкоежке – шоколад

Здоровье
5 распространенных причин непослушания ребенка 5 распространенных причин непослушания ребенка

Какие детские проблемы могут скрываться за непослушанием?

Psychologies
10 лучших документальных и научных сериалов 10 лучших документальных и научных сериалов

Сериалы о вселенной, авиакатастрофах, технологиях, криминале...

Maxim
Репринт: Сонтаг, Скалдин, Несмелов, природа зла и советская графомания Репринт: Сонтаг, Скалдин, Несмелов, природа зла и советская графомания

Последняя прижизненная книга Сьюзен Сонтаг и другие актуальные переиздания

Полка
Всё как есть Всё как есть

Отвечаем на все актуальные вопросы по правильному питанию

Добрые советы
Тропический калейдоскоп Тропический калейдоскоп

Куба — тропический рай с удивительными и необычными животными-экзотами

Наука и жизнь
Мечта как бунт Мечта как бунт

«Алые паруса»: Пьетро Марчелло экранизирует Александра Грина

Weekend
Дрифт Дрифт

Как живет династия дрифтеров

Men Today
Женские таблетки Женские таблетки

Противозачаточные средства: свойства, не связанные с контрацепцией

Лиза
Фарфоровый камин и китайский кабинет: как реставраторы работают на деньги меценатов Фарфоровый камин и китайский кабинет: как реставраторы работают на деньги меценатов

О сложных реставрациях-реконструкциях, выполненных на деньги меценатов

Forbes
Женщины в деле Женщины в деле

Бизнес – дело мужчин? Как бы не так!

Лиза
Шанс для защиты: как реагировать на иски прокуратуры о пересмотре итогов приватизации Шанс для защиты: как реагировать на иски прокуратуры о пересмотре итогов приватизации

Общие тенденции прокурорских исков имущества и защита от них

Forbes
«Едем по эскалатору вниз»: как живут родственники людей с инвалидностью «Едем по эскалатору вниз»: как живут родственники людей с инвалидностью

Глаза из сборника «Красные блокноты Кристины» — о хрупкости и уязвимости

Forbes
Казнить нельзя помиловать Казнить нельзя помиловать

Стоит ли прощать измену и как вернуть утраченное доверие?

Лиза
Датчик положения дроссельной заслонки (ДПДЗ): что это такое, как работает Датчик положения дроссельной заслонки (ДПДЗ): что это такое, как работает

ДПДЗ прямым образом влияет на работу мотора. Как его проверить?

РБК
Открыть в приложении