«Люди боятся, что ИИ будет относиться к людям так же, как люди относятся к людям и другим видам» (Философ душевой кабинки @philoshower)
В последние годы мы слышим об искусственном интеллекте из каждого угла. Нас заверяют, что это наше неотвратимое будущее, но в чем именно оно будет заключаться, затрудняются объяснить. Понять суть ИИ сложно и религиозным людям, которые склонны полагаться на веру, и обладателям критического мышления. Некоторые боятся ИИ, причем им стыдно в этом признаться. Как сформировать навык не бояться ИИ и не раболепствовать перед чем-то настолько мощным, что якобы готово покорить всю нашу планету? Очень просто: прочесть одну книгу.
Многие из нас хотели бы избавиться от своих страхов. Если верить ученым, среди женщин таких людей больше [M. Fredrikson, 1996] (кстати, работе со страхом можно научиться из нашей статьи «Страх. Что с ним делать?»).
Психологи веками пытаются помочь тем, кто боится смерти, лифтов, змей, пауков. В последние годы к этому списку добавился еще и искусственный интеллект (ИИ).
Что роднит страх перед ИИ и страх перед животными:
- Социальное научение. В большинстве своем дети не боятся склизких либо волосатых многоногих, но перенимают страх от взрослых в ходе знакомства с культурой того общества, в котором растут.
- Боязнь неизвестности.
- Страх зарождается из шока и перенесенного ужаса. Если вас в школе покусала собака, высока вероятность, что вы будете побаиваться собак и во взрослом возрасте. С ИИ ситуация аналогичная: многим достаточно один раз посмотреть фильм «Терминатор – судный день», чтобы начать сторониться роботов, какими бы милыми они ни были. Даже если это роботизированная буфетчица Дуняша в бусах и платьице в горошек [Робин Гуд Роботикс, 2023].
Универсальное противоядие – познакомиться с объектом страха поближе. Научиться понимать его и свои чувства. Довериться тому, кто будет учить нас ласково и профессионально.
Предлагаем вам в качестве педагога уроженку Нью-Джерси Мередит Бруссард. В 2017 году она написала книгу «Искусственный интеллект: Пределы возможного», в оригинале: «Искусственный интеллект. Как компьютеры неправильно понимают мир». На английском языке книга вышла в 2018 году. Российское издательство «Альпина нон-фикшн» выпустило ее на русском языке в 2020 году.
С учетом скорости развития высоких технологий, в 2023 году может показаться, что книга уже устарела. Отнюдь.
Книга – о чем она?
Узнать об ИИ можно из учебников, журнальных статей и энциклопедий, где авторы сервируют информацию аккуратными ломтиками. Проблема для читателя возникает, когда «ломтики» противоречат друг другу: нет единообразия в терминах и описываемых реалиях. Производители говорят одно, а потребители другое. Как и в любой другой молодой сфере знаний, у авторов зачастую нет времени и возможности разобраться в контенте досконально, пропустить его через себя.
Достоинство Бруссард в том, что за свои полвека жизни она не только систематизировала в книге имеющиеся знания об основных категориях ИИ, но и смогла стать по-настоящему квалифицированным автором в этой области:
- Получила опыт сборки робота еще в дошкольном возрасте.
- В средней школе училась BASIC и познавала физическую составляющую компьютеров благодаря специальной программе Lockheed Martin.
- Обучалась в Гарварде на отделении вычислительных машин.
- После вуза работала программистом и разработчиком, в том числе, в Лаборатории Белла, одном из крупнейших мировых исследовательских центров в области электронных систем.
- Из-за отсутствия радости на работе женщина приняла сознательное решение прекратить работать по профессии и стала журналистом. Кто-то сочтет это поражением, а кто-то – храбростью признать, что ей не место в мужском IT-мире.
- Вернулась в компьютерную науку в качестве дата-журналиста. Журналистика данных – это практика поиска и рассказывания историй посредством цифр.
Бруссард не только знает, о чем пишет, но и знакома лично со светилами ИИ, потому что большинство из них – ее соотечественники. Она понимает это, потому что пропустила теорию через себя, выяснила на практике, как все работает, и честно делится с читателями своими воспоминаниями об этом.
«Понимание – это способность найти то, что есть, и отличить то, что может быть, от того, чего быть не может», – так это сформулировал наш соотечественник, так же программист и журналист Владимир Губайловский [«Искусственный интеллект и мозг человека», 2020].
Например, в начале книги Бруссард показывает, как заставить ваш компьютер поздороваться с вами и другими землянами. Родители знают, что у некоторых детей уходит пару месяцев на обучение этому навыку. А у тех, кто не хочет говорить со взрослыми, может уйти и год. Бруссард понадобилось всего четыре страницы.
Об ИИ в общих словах
Компьютеры не «знают» подобно тому, как «знают» сознательные существа. Внутри компьютера нет никакого сознания, есть только задачи, выполняемые бесшумно, быстро и хорошо.
Компьютеры «питаются» электричеством и данными. Однако все данные производятся людьми. Данные – это социальный конструкт, подчеркивает Бруссард.
Данные, произведенные компьютерами, в конечном счете также социально сконструированы, поскольку компьютеры созданы людьми. Математика – это система знаков, полностью разработанная людьми. А компьютеры – это машины, выполняющие вычисления: они производят миллионы математических операций. Компьютеры не созданы на основе каких-либо абсолютных вселенских или природных принципов, это машины, являющиеся продуктом миллионов небольших намеренных проектных решений, принятых людьми, работающими в определенных организационных контекстах.
Отличие ИИ и компьютера от мозга
В современной публицистике широко распространено мнение, что ИИ обыгрывает человека, потому что умнее, способнее и может хранить больше информации. К этому выводу приходит любой студент, который в отчаянии перед экзаменом осознает, что, как бы хорошо он ни зубрил материал, его «выдача» несопоставимо слабее, чем у любого поисковика.
Многих это доводит до отчаяния. Смысл читать книги из списка литературы, если ты забудешь их содержание? Смысл морочиться месяцами над дипломом, если чат-бот ChatGPT напишет его за 23 часа?
Так и до полной апатии вкупе с депрессией недалеко. Если вы ловили себя на подобных мыслях, и они вас тревожат, предлагаем вам нашу программу «Психическая саморегуляция».
Эти мысли посещали и Бруссард. И она всю жизнь искала на эти вопросы ответы не только как человек и гражданин, но и как мать, которая несет ответственность перед малышом, которого выпускает в большой мир.
Если вам придется отвечать собственному ребенку, каковы преимущества его мозга перед ИИ, расскажите ему следующее:
- Мозг самовосстанавливается. Если изъять кусочек мозга, он компенсирует это, создав обходные пути. Компьютер на такое не способен. Если вы удалите из компьютера его часть, он просто перестанет работать.
- Человек умеет забывать. А машина нет. Забвение – это не проклятие, а ключ к способности обобщать, творить и наслаждаться чужими творениями. Компьютеры этого не умеют.
- Мозг дарит умение формировать привычку, которая «вторая натура». У ИИ здесь полный пробел.
- Мозг ориентирован на радость и получение положительных подкреплений, «поглаживаний», как выражаются психологи. У ИИ нет эмоций, а потому нет и стремлений их испытывать либо сравнивать.
- Индивидуальность. Ваш мозг – он один такой. А все AlphaGo – одинаковые.
- Умение формировать ценности. Обычно, взрослые люди уже знают, что для них важно, а что – нет. Ценности дружбы, любви и доверия считаются универсальными для людей. Но не для компьютеров. Именно это мешает «подружиться» с роботом.
Хотя по многим параметрам «искусственный интеллект» объективно сильнее интеллекта человеческого, наш мозг способен на невероятные штуки, которые и делают нас людьми: любовь, дружбу, преданность, свободу, веру, самопознание через радость творения. Вы согласились бы обменять все это на безлимитную память?
Сильный ИИ и слабый ИИ
Большая часть представлений о технологиях сформирована благодаря фильмам, телепередачам и книгам. Говоря об ИИ, Бруссард призывает различать сильный и слабый искусственный интеллект.
Сильный ИИ, «призрак внутри машины» – это голливудская версия. В 1990-х годах исследователи поставили крест на сильном ИИ. Сегодня его называют «старым добрым искусственным интеллектом».
Слабый ИИ – настоящий. Он опирается исключительно на вычислительные методы и не настолько увлекателен, как его более старый собрат, но удивительно хорошо справляется с разного рода задачами. Хотя, конечно, существует знаковая лингвистическая путаница. Машинное обучение (МО) – популярная ныне форма искусственного интеллекта – не является сильным ИИ. Это слабый ИИ, хотя название действительно может ввести в заблуждение.
Сильный ИИ – это то, чего мы желаем, на что надеемся и что представляем себе.
Слабый ИИ – это то, что у нас реально есть. Такова разница между мечтой и реальностью.
Беспилотники
В 2007 году Бруссард принимала участие в испытаниях беспилотной Toyota Prius по прозвищу «Малыш Бен». Машина ездила кругами и на полной скорости не смогла распознать бетонный столб. Т.к. привычных педалей у нее не было, спасти жизни четырех пассажиров удалось, лишь срочно активировав ручное управление на клавиатуре, когда машина находилась в нескольких сантиметрах от столба.
Размышляя над тем, почему «умная» Toyota Prius не смогла распознать обычный бетонный столб, автор подчеркивает, что не существует способа запрограммировать теорию мышления.
«Компьютер «знает» только то, что ему «сказали». Без разума, когнитивной возможности прогнозировать будущее невозможно за долю секунды решить, что светофор представляет собой препятствие, и принять соответствующие меры», – пишет Бруссард.
«Малыш Бен» канул в лету. Последующие разработки беспилотников базировались на другом принципе, который не вовлекал «разум» и правила дорожного движения. Машине достаточно было передвигаться по сетке-карте, как стрелке из знаменитого учебного языка программирования Karel The Robot Ричарда Паттиса.
Этот принцип напомнил Бруссард о видеоиграх: «Вместо того чтобы создавать машину, способную передвигаться в мире подобно человеку, разработчики придумали превратить мир в видеоигру, в которой машина сможет передвигаться».
История о соревновании по созданию автопилотируемой машины – это история о фундаментальных ограничениях вычислительной техники.
Бруссард опасается, что присущий разработчикам беспилотников техношовинизм может привести к буквально магическому мышлению в случаях, когда технология способна стать угрозой здоровью членов общества.
По состоянию на 2017 год «еще никому не удалось создать аппаратное и программное решения, которые гарантировали бы безопасную езду в любой местности и при любой погоде».
Основной изъян большинства последних разработок беспилотников – отсутствие встроенной погрешности и неспособность алгоритмов предсказать, что именно не включено.
В 2017 году Бруссард вместе с мужем и малолетним сыном прокатилась на Model X от Tesla. Она плыла по брусчатке, как лебедь, разгонялась, как ракета, но на тот момент не имела разрешения от разработчиков работать на полном автопилоте.
Ключевая трудность – этическая дилемма под названием «проблема вагонетки».
«Классическая ситуация: двигаясь по дороге, вы можете либо сбить пешехода, либо врезаться в стену, что приведет к вашей смерти. Это моральное решение. Кто же будет устанавливать правила для моральных решений?» – задался вопросом в беседе с президентом США Бараком Обамой директор Медиалаборатории МТИ Дзеити Ито.
Голосовые помощники
«Алиса», Siri, Alexa, «Александра» от «Мосметро» – эти говорливые искусственные женщины готовы помочь с любым вопросом: какую книгу скачать или читать онлайн бесплатно, какой фильм посмотреть, как пересесть с ветки на ветку.
Когда их голос впервые слышат пенсионеры, они пугаются и начинают думать, как Карлсон: «Домомучительница хочет залезть в такую маленькую коробочку?! Такая громадина! Да ее пришлось бы сложить вчетверо!» [Астрид Линдгрен «Малыш и Карлсон, который живет на крыше»].
Дети уже понимают, что «Алиса» – не живая и не волшебная. А взрослым Бруссард напоминает, что в компьютере нет никакой магии. Это просто сложный набор слоев: «Если вам кажется, будто компьютер разговаривает с вами, либо вы ощущаете какую-то связь с ним, на самом деле происходит взаимодействие вас с программой, написанной человеческим существом с собственными мыслями, страхами, предубеждениями и историей».
Именно эта идея дает автору аргумент прогнозировать, что голосовые помощники не всесильны и ограничены границами воображения своих создателей.
«Попытки придумать вероятные ответы для бота обречены на провал, поскольку мы совершенно не можем предсказать будущее», – пишет Бруссард.
«Отцы» ИИ
Т.к. сильный ИИ до сих пор не создан, нельзя говорить о каком-либо «основателе искусственного интеллекта». В настоящее время государства, корпорации и простые люди создают и пользуются технологиями, которые относятся к слабому ИИ. Они стали настолько не похожи друг на друга, что зачастую журналисты задаются вопросом, почему их относят к области искусственного интеллекта, а не к обычной автоматизации процессов.
Настолько ли «умен» робот-пылесос, если, вместо того чтобы убрать дурно пахнущие фекалии домашнего животного, он аккуратно размазывает их по полу всей квартиры? Сочтем ли мы «умным» голосового помощника, который ставит нам одноименную песню другого исполнителя только потому, что он популярнее? Как так вышло, что большинство алгоритмов ИИ привели к созданию своеобразных «игрушек» для взрослых мужчин, но практически никак не облегчили жизнь и не раскрасили досуг женщин и детей, как, например, в свое время ножная педаль для швейной машинки Исаака Зингера, Lego или самоотжимающаяся швабра?
Этими вопросами задаются во многих странах. Американка Бруссард считает, что современный ИИ, пусть и «слабый», до сих пор несет на себе отпечаток, почерк своих отцов-основателей: «безнадежного в делах общения» и чуравшегося женщин Алана Тьюринга, упивавшегося научной фантастикой, и беспечного Марвина Минского, анархиста Питера Тиля, участника «кислотных» тестов Кина Кейси Стюарта Бранда.
Ответственность, прогнозирование, забота, любовь, эмоциональный интеллект у них уходили хорошо если на второй план. По той же «тропинке» движутся и развитие современного ИИ, и разговоры в коридорах факультетов вычислительной математики и кибернетики, где по-прежнему, как и полвека назад, практически исключительно мужской коллектив мечтает об игрушках-роботах, которые будут читать их мысли и приносить им таблетки на блюдечке с голубой каемочкой.
Американка Бруссард обличает такой подход как «гендерный техношовинизм». В Испании и Латинской Америке его окрестили бы «мачизмом».
Его характеризуют:
- Идеализация машин.
- Осуждение несовершенных людей, которые совершают человеческие ошибки.
- Пренебрежение женщинами, их позицией и мировоззрением. Сомнение в наличии у женщин когнитивного интеллекта.
- Убеждение, что логику можно с легкостью применить к реальному миру.
- Наивность относительно бытовых и других неизбежных проблем, которые предстают всякий раз, когда люди начинают пользоваться новыми гаджетами. Например, когда разработчики Microsoft создали Twitter-бота Тая, он мгновенно овладел риторикой вражды в дискурсе превосходства белой расы.
- Вера в то, что люди могут без родов породить что-то, что способно самостоятельно мыслить. «Этой мечте об ИИ уже больше 60 лет, – сказал Деннис Мортенсен, основатель и исполнительный директор CEO, в 2016 году журналисту из Slate. – Каждый раз мы думали, что в итоге получится некая сущность, подобная человеку, с которой можно было бы беседовать, как сейчас с свами. Однако это пока остается лишь фантазией. Сомневаюсь, что она станет явью на моем веку или на веку моих детей».
На постсоветском пространстве и в других патриархальных странах программисты-мужчины считают обличение Бруссард «гендерного техношовинизма» самой слабой стороной ее книги, которая, несмотря на затронутые болевые точки, многим нравится.
Возможно, именно в этом и кроются корни беспомощности в создании сильного ИИ. «Отцы-основатели» запустили волну, которая каждое утро выносит на потребительский берег все новые и новые технологии, алгоритмы и продукты на основе слабого ИИ. Но стать сильным никому пока не удалось.
В произведении Бруссард эта идея не появляется, однако американка была к ней очень близка: если для создания новой жизни и нового разума нужно объединение мужского и женского начал, не является ли доминирование мужчин в сфере ИИ препятствием для возникновения сильного ИИ?
Перспективы
Бруссард не уверена, что у техноутопистов и либертарианцев получится сделать мир лучше посредством умножения количества используемых технологий.
Будущее, где все оцифровано, невозможно из-за частых поломок. Автор приводит в пример лифт своего многоэтажного дома, который регулярно увозит и ее, и других соседей не на тот этаж.
«У лифта всего лишь одна цель, реализацией которой занимаются высококвалифицированные изобретатели, инженеры-конструкторы, инженеры-механики, менеджеры по продажам, маркетологи, дистрибьюторы, гарантийные службы и надзорные органы. И если все эти люди, работающие вместе десятилетиями, не могут заставить лифт в моем доме делать то, что он должен, мне не слишком верится, что другая группа не менее квалифицированных людей в другой цепи разработки и эксплуатации может заставить беспилотный автомобиль выполнять несколько задач одновременно, не убивая при этом ни меня, ни моего ребенка, ни детей, путешествующих на школьном автобусе, ни детей, стоящих недалеко на автобусной остановке. Такие привычные устройства, как лифты или автоматические смесители воды, на самом деле имеют значение, поскольку служат индикаторами качества работы всей системы в целом. И пока эти штуки не работают как должно, наивно полагать, что волшебным образом заработают другие, более сложные устройства», – заключает Бруссард.
Мы не призываем вас соглашаться с ее мнением. Книгу «Искусственный интеллект: Пределы возможного» тем и приятно читать, что она не давит и ничего не навязывает. Упрощая сложные реалии IT и переформулируя математические тонкости общечеловеческим языком, Мередит Бруссард иногда и вовсе рискует вместе с водой выплеснуть и ребенка. Однако содержащийся в книге призыв к здравомыслию выгодно выделяет ее среди сотен, если не тысяч других, написанных об ИИ. Не нужно слепо верить всему, что в ней написано и что говорят об ИИ. Верьте только тому, что вам нравится.
Желаем удачи и просим принять участие в небольшом опросе:
