Футуролог о сильном искусственном интеллекте

Цифровой океанHi-Tech

Мыслю, значит, существую

В конце 2023 года весь мир заговорил о сильном искусственном интеллекте. Поводом стало загадочное увольнение главы OpenAI Сэма Альтмана с последующим восстановлением в должности через пять дней. По слухам, одной из причин стал прорыв в создании машинного разума, ставящий под угрозу все человечество. Футуролог Данила Медведев помог «Цифровому Океану» оценить шансы разработчиков на создание сильного ИИ.

Данила Медведев

Российский общественный деятель, философ, футуролог, популяризатор науки. Один из создателей Российского трансгуманистического движения, с июня 2005 года член координационного совета Российского трансгуманистического движения. Председатель Совета директоров российской крио компании «КриоРус». Ведущий «Программы на будущее» на телеканале «Россия-2» (2011–2013). Кандидат экономических наук.

Сильный (общий, универсальный) искусственный интеллект — гипотетическая компьютерная система, способная мыслить, осознавать себя и самообучаться для решения любых задач

OpenAI — американская научно-исследовательская организация, разработчик систем искусственного интеллекта, в том числе GPT-4 и ChatGPT

Могли ли в OpenAI сделать сильный искусственный интеллект?

Зависит от того, что именно мы понимаем под сильным ИИ. Википедийное определение слишком широкое и позволяет всем участникам хайпа — разработчикам, венчурным инвесторам, СМИ — приукрашивать реальность в свою пользу.

Все более-менее согласны с тем, что своей универсальностью сильный ИИ подобен человеческому. Тогда не мешало бы условиться, какие требования мы предъявляем к самим людям. Отвечать на вопросы в чате — это один уровень. Управлять автомобилем, доставлять посылки, укладывать асфальт — другой. Ходить по Москве в теле робота и решать какие-то вопросы — третий. Наконец, создать новый жанр в искусстве или написать симфонию — четвертый.

Определить «общечеловеческий уровень» интеллекта сложно, потому что современное общество практически запрещает нам его измерять — а следом и изучать. Измерения приводят к сравнению, а это уже табу. Когда Джеймс Уотсон заикнулся о том, что уровень интеллекта может коррелировать с расой, он чуть не лишился карьеры — и неважно, что он нобелевский лауреат. В статье 2014 года психолог Эрл Хант указал, что из шести ведущих американских вузов с программами по психологии ни один не изучает интеллект — от греха подальше.

Пока мы стесняемся мериться интеллектами, разработчики натаскивают ИИ на решение «сложных человеческих задач» — учат его играть в шахматы, словно механического турка, сдавать экзамен на адвоката или сочинять рэп. Чтобы получать венчурные деньги, ИИ-стартапам необходимо демонстрировать эффектный «результат» в кратчайшие сроки.

Тот ИИ, который сможет читать рэп, водить машину и выступать в суде, и будет универсальным, разве не так?

Такой подход может направить разработчиков по ложному следу, особенно тех, у которых есть сто миллиардов долларов. Когда у тебя есть сто миллиардов долларов, ты мыслишь немного не так, как обычные люди. К примеру, у певицы Мэрайи Кери есть специальный сотрудник: он подает напитки, чтобы она пила из трубочки. Даже над самыми мелкими проблемами крупные корпорации предпочитают не думать, а просто закидывать их деньгами. В итоге половина людей в развитых странах занята тем, что Дэвид Гребер называл «буллшит джобс».

Применительно к ИИ принцип работает так. Со стороны рынка или даже сообщества экспертов поступают запросы: ваша модель должна уметь водить машину, сочинять сказки, управлять бизнесом. Разработчики оперативно добавляют в программу новые функции, демонстрируют результат — и при этом не делают внутри модели никаких структур, способных порождать интеллект. Так поступают все крупные компании: российские, американские, китайские.

Однако бесконечная сумма подпрограмм никогда не сравняется с универсальным интеллектом. Любой айтишник знает, что с ростом сложности системы затраты на ее поддержку растут квадратично или еще быстрее. Можно до бесконечности пытаться совместить перехватчик, разведчик и стелс-бомбардировщик в одной машине, но дешевле и эффективнее будет сделать три разных самолета.

Человек развил интеллект не потому, что по очереди учился разным вещам. Есть базовые принципы, они породили базовые механизмы, благодаря которым мы можем делать то, что мы делаем, — мыслить. Были буквально две-три функции, не пятьдесят и не сто, которые породили все наши способности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Бог из машины Бог из машины

Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг света
9 трендов в уборке, которые стоит попробовать в этом году: мнение профессиональных клинеров 9 трендов в уборке, которые стоит попробовать в этом году: мнение профессиональных клинеров

Что сейчас считается трендом в области наведения порядка и чистоты в доме?

VOICE
Наука о чужих. Жизнь и разум во Вселенной Наука о чужих. Жизнь и разум во Вселенной

Философы античности верили во множественность обитаемых миров

Наука и жизнь
«Церемония жизни». Рассказ из сборника Саяка Мурата «Церемония жизни». Рассказ из сборника Саяка Мурата

Сборник саркастичных, шокирующих и одновременно нежных историй Саяки Мураты

СНОБ
Глубокое заблуждение Глубокое заблуждение

Как археологи отличают правду от фейков

Цифровой океан
От ландшафта к дому От ландшафта к дому

Сочетание атмосферы загородного уюта с ощущением свободы

Идеи Вашего Дома
Арт-крайм Арт-крайм

О тема искусства как объекта преступного посягательства! Она бесконечна

Правила жизни
Затмение нашло. Календарь затмений в 2024 году Затмение нашло. Календарь затмений в 2024 году

Когда в этом году будут солнечные и лунные затмения

Лиза
Букет возможностей: как устроен и как перестраивается цветочный бизнес Букет возможностей: как устроен и как перестраивается цветочный бизнес

Откуда привозят цветы, из чего складывается стоимость букета и другие вопросы

РБК
В мире странствий В мире странствий

Мы поговорили с Ниной о том, как важно ничего не бояться, даже «в Африку гулять»

OK!
Мифы и факты: о чем умолчал Марко Поло Мифы и факты: о чем умолчал Марко Поло

Что Марко Поло упустил в своих рассказах

Вокруг света
Не такой простой как кажется: вы представить себе не могли, как грифель попадает в карандаш Не такой простой как кажется: вы представить себе не могли, как грифель попадает в карандаш

Спасибо овцам, которые упростили нашу жизнь и подарили нам первые карандаши

ТехИнсайдер
Как справиться со сложными чувствами по отношению к родителям: 2 шага Как справиться со сложными чувствами по отношению к родителям: 2 шага

Нужно ли избавляться от негативных эмоций по отношению к самым близким людям?

Psychologies
У берегов Австралии впервые встретили дельфина с белыми пятнами и пестринами У берегов Австралии впервые встретили дельфина с белыми пятнами и пестринами

Зоологи встретили обыкновенную афалину с частичной потерей пигментации

N+1
Что выбрать: покупку автомобиля или такси, каршеринг, подписку Что выбрать: покупку автомобиля или такси, каршеринг, подписку

Что позволяет экономить больше: авто, такси, каршеринг или другая альтернатива?

РБК
5 фактов из жизни Ромы Желудя: секс-зависимость, эскорт, смерть мамы и не только 5 фактов из жизни Ромы Желудя: секс-зависимость, эскорт, смерть мамы и не только

Самые интересные моменты из большого интервью Ромы Желудя

Psychologies
Время неудач: что такое високосный год и почему с ним связано столько суеверий Время неудач: что такое високосный год и почему с ним связано столько суеверий

Откуда пошел високосный год и почему вокруг него столько предрассудков?

Forbes
Энергетический баланс: 4 совета для восстановления сил Энергетический баланс: 4 совета для восстановления сил

Что делать, если энергия пропала, а на ее место пришла хроническая усталость?

Psychologies
6 фильмов о борьбе с онкологией 6 фильмов о борьбе с онкологией

Фильмы, в которых герои сражаются с онкологией

Правила жизни
Мозговой штурм: за кем следить в мире нейроинтерфейсов и что их ждет в будущем Мозговой штурм: за кем следить в мире нейроинтерфейсов и что их ждет в будущем

Для чего ученые пытаются совместить человеческий мозг с компьютером

Forbes
Лучшие маслкары: фото и характеристики машин Лучшие маслкары: фото и характеристики машин

Какие автомобили называли маслкарами, выпускают ли их сейчас

РБК
Скелет перебежчика Скелет перебежчика

История автора одной из главных книг о России второй половины XVII века

Weekend
Театр хора и балета Театр хора и балета

Как последняя советская политэмигрантка превратила свой опыт в искусство

Weekend
Преодолеть трудности Преодолеть трудности

Разбор 4 конфликтов, из которых мы можем извлечь полезные выводы для себя

Psychologies
Солонку в сторону! Продукты, содержащие наибольшее количество скрытой соли Солонку в сторону! Продукты, содержащие наибольшее количество скрытой соли

Сколько соли – это много, как это влияет на здоровье и как ее сократить?

Лиза
Простота по-французски Простота по-французски

Десерты не должны быть чересчур сложными и концептуальными

Bones
Лед и пламя: исследование антарктического вулкана может объяснить, возможна ли жизнь на Марсе Лед и пламя: исследование антарктического вулкана может объяснить, возможна ли жизнь на Марсе

Соединение льда и огня может дать подсказку о том, как выглядит жизнь на Марсе

ТехИнсайдер
На приеме у античных врачей На приеме у античных врачей

Чем болели и как лечили в античной Греции и Древнем Риме?

Знание – сила
Девонская панцирная рыба оказалась обладательницей рекордно длинной нижней челюсти Девонская панцирная рыба оказалась обладательницей рекордно длинной нижней челюсти

Нижняя челюсть девонской плакодермы была вдвое длиннее ее черепа

N+1
Аглая Тарасова Аглая Тарасова

Аглая Тарасова умеет и в Золушку-мажорку, и в летчицу-валькирию

Собака.ru
Открыть в приложении