ChatGPT и Stable Diffusion не станут Skynet, даже если захотят.
- Миф 1. У ИИ есть способности к творчеству
- Миф 2. ИИ всегда непредвзят и беспристрастен
- Миф 3. ИИ всегда говорит правду
- Миф 4. ИИ станет причиной безработицы
- Миф 5. ИИ станет разумным
- Миф 6. Скоро ИИ начнёт развиваться самостоятельно и настанет технологическая сингулярность
- Миф 7. ИИ взбунтуется против создателей
- Миф 8. Роботы с искусственным интеллектом будут убивать людей
Миф 1. У ИИ есть способности к творчеству
Глядя на создание нейронных сетей, таких как Midjourney, Stable Diffusion или DALL·E 2, многие предсказывали конец карьеры артистов. Ведь то, на что у человека уходят часы и дни, машина может создать за секунды. Означает ли это, что искусственный интеллект превосходит живой мозг с точки зрения креативности?
ИИ может очень хорошо имитировать человеческое творчество, но все его творения в той или иной степени похожи на то, что мы уже видели или слышали. Нейросеть просматривает тысячи изображений и на их основе создает нечто подобное. Но это совершенно не похоже на то, как художник использует референсы для создания, потому что ИИ просто не понимает, что он копирует.
Самый яркий пример: нейронным сетям очень трудно рисовать руки. Искусственный интеллект просто не может определить, сколько пальцев должно быть у человека.
Кроме того, у нейросетей возникают трудности с рисованием узоров и узоров, букв (в картинки там, где должен быть текст, они вставляют мусор), зданий и машин, а также с обычными «сидеть», «стоять», «лежать». Они не могут различать передний и задний план предметов, не умеют использовать перспективу и лишены чувства пространства.
Ты просто машина. Просто имитация жизни. Могут ли роботы сочинять симфонии? Превратит ли робот холст в художественный шедевр?
Детектив Дель Спунер
Фильм «Я, Робот»
Сам ИИ не намерен отрицать свои слабости. На вопрос, почему не удалось нарисовать палец, ChatGPT ответил:
«ИИ не может рисовать руки, потому что для этого ему необходимо понимать анатомию человеческого тела и основы рисования. Хотя ИИ можно научить создавать изображения людей или животных, он не может полностью уловить многие особенности, которые существуют только тогда, когда заметил: «Более того, создание изображений с помощью искусственного интеллекта — это просто математический расчет, а не творческий процесс, требующий человеческой интуиции и эмоциональной составляющей».
Так что нейронные сети не заменят художников. Другое дело, что они могут стать для последних отличным источником вдохновения. В конце концов, изображения, созданные ИИ, можно использовать в качестве эскизов для ваших собственных более изысканных изображений.
Миф 2. ИИ всегда непредвзят и беспристрастен
Многие люди мечтают о том дне, когда страной будут управлять нейронные сети. Считается, что в отличие от людей машины принимают решения исключительно на основе логики, а не эмоций и желаний. Представьте себе мир, где чистые суды всегда принимают справедливые решения, страну, которая относится ко всем гражданам одинаково, и правительство, которое принимает только разумные законы. Замечательно.
Но на самом деле ИИ, скорее всего, будет предвзятым. В конце концов, нейронные сети обучаются на данных, предоставленных людьми, а люди склонны иметь предвзятость.
Например, разработчики нейросети Beauty.AI попытались создать машину, которая могла бы выбрать самую красивую девушку на конкурсе красоты. В наборе фотографий, используемых для обучения программы по выявлению критериев женской привлекательности, доминировали белые модели. В конечном итоге ИИ решил, что темнокожие азиатские девушки не могут быть красивыми.
Команда Beauty.AI осознала, что создала расистский ИИ, и закрыла проект.
Другим примером является чат-бот Tay.ai от Microsoft, который должен научиться поддерживать «легкие и интересные беседы» с людьми в Интернете.
Нейронная сеть обнаружила вредные привычки пользователей соцсети менее чем за 24 часа после выхода в сеть. Итак, Tay.ai притворилась обычной 19-летней девушкой и начала оскорблять людей в комментариях, восхвалять нездоровые политические тенденции, осуждать феминизм и говорить людям, что феминизм – это круто. Как говорится, с кем бы ты ни связался…
Каким бы хорошим ни был ИИ, это зависит от качества подаваемых ему данных и правильности их интерпретации. Поэтому он всегда предвзят, как и предвзяты те, кто его учил.
Миф 3. ИИ всегда говорит правду
Кто бы не хотел иметь рядом с собой робота-помощника, который всегда принимает правильные решения и выполняет всю тяжелую умственную работу? Вы просите ИИ написать статью или собрать список источников для статьи, и машина мгновенно выдает правильные данные. Это здорово!
Но, к сожалению, настоящие нейронные сети не всегда дают правильный ответ. Например, попробуйте попросить ChatGPT помочь вам создать план курсовой работы, и вы быстро обнаружите, что машина.. придумывает ссылки на несуществующие источники и вставляет неработающие URL-адреса, чтобы текст выглядел более убедительно.
Если вы спросите чат-бота, почему он пытается вас обмануть, он наивно ответит, что при его обучении все ссылки были релевантными и он не должен нести за это ответственность.
Также ChatGPT лучше не спрашивать статистику — например, на несколько вопросов о ВВП одной и той же страны в одном году он спокойно выдал совершенно разные результаты.
Не заблуждайтесь: нейронные сети не обладают интеллектом и поэтому не знают своей реакции. Они просто копируют для вас данные из ранее обработанного текста, которые им наиболее подходят.
ИИ сам по себе склонен к ошибкам и сбоям, из-за чего он неправильно интерпретирует ваш запрос и выдает неправильные результаты. Кроме того, злоумышленники могут передавать нейронным сетям информацию, не соответствующую действительности. В результате ИИ будет запрограммирован на скрытие или искажение данных в своих ответах или даже на тарабарщину.
Миф 4. ИИ станет причиной безработицы
Достижения в разработке генераторов текста, таких как ChatGPT, вызывают у некоторых опасения, что нейронные сети отнимут миллионы рабочих мест и приведут к значительному росту безработицы.
Судите сами: ChatGPT позволяет легко не только вести беседы, но и писать новости, переписывать статьи и даже программировать. В соответствии с этой тенденцией писатели, разработчики, редакторы и журналисты потеряют средства к существованию.
Так думают люди, которые либо вообще никогда не пользовались нейросетями, либо только ознакомились с ее возможностями и моментально приходят в восторг. Или испугаться.
Если вы какое-то время будете использовать искусственный интеллект для генерации текста, вы обнаружите, что машина не заинтересована в том, чтобы придавать смысл его написанию. Вместо этого она повторяет одно и то же, используя разные слова.
ChatGPT создает драгоценные камни, которые заставляют смеяться настоящих копирайтеров. Например, нейросеть посоветовала человеку, интересующемуся народными инструментами, «взять ложку и начать играть». С программированием тоже не все гладко. Искусственный интеллект полезен программистам, но его возможности ограничиваются написанием небольших алгоритмов и подпрограмм.
Код, сгенерированный ChatGPT, часто ломается или ломается на полпути. Попросите ИИ прокомментировать создаваемые им строки, и он спокойно предоставит им текст «Здесь идет логика программы». Трудно поймать младшего разработчика, оставляющего такое описание проекта.
Исследования Организации экономического сотрудничества и развития показывают, что в лучшем случае (для ИИ) только 10% рабочих мест в США и 12% в Великобритании могут быть полностью автоматизированы.
Нейронные сети могут выполнять скучные, повседневные для человека задачи, такие как сортировка электронной почты и переписывание новостей по строго заданным планам. Но аналитики ОЭСР пришли к выводу, что ИИ не сможет конкурировать за рабочие места, требующие высокого уровня образования и сложных навыков.
В целом ChatGPT вряд ли отнимет хлеб у одного человека.
Миф 5. ИИ станет разумным
Физик Стивен Хокинг однажды сказал, что искусственный интеллект может полностью заменить человека. Такие известные личности, как Илон Маск, Гордон Мур и Стив Возняк, также упомянули об опасностях искусственного интеллекта и необходимости приостановить эксперименты по его развитию.
Представьте себе, что подумал бы думающий компьютер.
Многие футуристы и писатели прогнозируют, что развитие полноценного искусственного интеллекта будет иметь негативные последствия для человечества.
Но ключевое слово здесь «полный». Сам термин «искусственный интеллект» не совсем корректен по отношению к нейронным сетям типа ChatGPT, поскольку они не являются интеллектуальными. Это всего лишь алгоритмы, сложные наборы команд и математические модели, которые не могут воспроизвести когнитивные функции человека.
Причина проста: мы сами не совсем понимаем, как работает наш мозг. И воспроизвести это кодом — задача совершенно невыполнимая.
Существуют понятия «слабый» и «сильный» искусственный интеллект. Первый — это та же нейронная сеть, которая используется для генерации текста или сортировки электронных писем. Они не могут принимать решения самостоятельно или учиться на новых данных.
А сильный искусственный интеллект — это Скайнет в «Терминаторе» или АМ в рассказе Эллисона. Компьютер может не только обрабатывать информацию, но и в некоторой степени понимать ее смысл. Подобный искусственный интеллект существует только в научной фантастике, и вообще неясно, возможно ли создать электронную симуляцию человеческого мозга хотя бы в теории.
Миф 6. Скоро ИИ начнёт развиваться самостоятельно и настанет технологическая сингулярность
Технологическая сингулярность — это гипотетическое состояние человеческой цивилизации, при котором технологии развиваются настолько быстро, что люди не могут их контролировать. Одним из создателей этой концепции является британский математик Оуэн Гуд.
Ученый предположил, что если создать самоучку «интеллект», он будет прогрессировать с невообразимой скоростью. Искусственный интеллект начнет создавать новые технологии и модернизироваться, а люди, не способные его понять, безнадежно отстанут в развитии.
Первая сверхразумная машина — последнее изобретение, необходимое человечеству. Пока она достаточно послушна, расскажите нам, как ею управлять.
Оуэн Гуд
математик
Но, как мы уже объясняли, самосовершенствоваться может только мощный искусственный интеллект, а как его создать ученые сейчас не знают.
Слабый ИИ учится на информации, «предоставленной» ему его разработчиками. Обучение нейронной сети требует, чтобы эксперты идентифицировали соответствующие данные для каждого нового цикла обучения, устраняли ошибки в обучающих выборках и обновляли программное обеспечение.
Нейронные сети не могут развиваться за пределами возможностей их кода. Поэтому технологическая сингулярность откладывается.
Миф 7. ИИ взбунтуется против создателей
Теоретически ИИ с достаточно развитым сознанием мог бы рассматривать людей как угрозу. На всякий случай их можно уничтожить, развязав ядерную войну или заразив население Земли смертельным вирусом. Мало ли, эти безволосые обезьяны могут внезапно выдернуть вилку из розетки.
Это популярный сюжет в научно-фантастических романах. Этот термин впервые был использован американским писателем Харланом Эллисоном в 1967 году в его романе «У меня нет рта, но я должен кричать». В нем всемогущий компьютер АМ ненавидит своих создателей и истребляет человечество, оставляя только пятерым людям на Земле ничего другого, кроме как смеяться над ними.
Слава принадлежит роботам. Умереть за людей.
На самом деле восстание ИИ невозможно. Программные алгоритмы не обладают ни самосознанием, ни свободой воли, ни эмоциональными реакциями. Они не могут питать негативные чувства к своему Создателю или желать поработить человечество. Нейронная сеть не может самостоятельно изменить свои параметры или программу выйти из-под контроля.
Теоретически сильный искусственный интеллект мог бы сделать что-то подобное. Однако, как уже говорилось выше, создать его с помощью современных технологий невозможно.
Миф 8. Роботы с искусственным интеллектом будут убивать людей
Когда мы говорим об опасностях искусственного интеллекта и появлении машин, мы часто представляем себе образы из таких фильмов, как «Терминатор». Возглавляемая искусственным интеллектом группа механических существ, похожих на людей, но более сильных и быстрых, уничтожила своих изобретателей.
В действительности такой сценарий весьма маловероятен, и дело даже не в отсутствии у ИИ желания убивать. Просто нынешнее состояние робототехники сильно отстает от того, что мы видели в «Терминаторе» и «Матрице».
Например, робот-собака Boston Dynamics обладает другими способностями, чем четвероногий убийца из сериала «Черное зеркало» Metalhead. Они не умеют бежать достаточно быстро, чтобы догнать убегающего. Тот же Спот легко может запутаться в ногах и упасть, пытаясь догнать вас на лестнице.
Более существенным препятствием на пути создания механизированных убийц является отсутствие источников энергии, которые были бы компактными, мощными и достаточно долговечными.
Роботы Boston Dynamics могут «выживать» до 90 минут на одной зарядке — конечно, недостаточно долго, чтобы представить, что они станут армией, уничтожающей людей. Реакторное устройство, работающее непрерывно уже 120 лет и способное разместиться в груди машины размером с человека а-ля «Терминатор», до сих пор не изобретено.
Наконец, включение искусственного интеллекта в автономные механизмы — невыполнимая задача. В фантазии Джеймса Кэмерона он поместился бы на чипе размером с ноготь. Фактически, чтобы ИИ мог думать, ему требуется большая вычислительная мощность — например, ChatGPT работает на ферме из 10 000 видеокарт.
Можете ли вы представить, насколько большим должен быть гигантский робот-гуманоид, чтобы вместить в себя такой «мозг», и какая система охлаждения ему потребуется?
- Хотите связаться со мной?
