Кто из нас не мечтал проехаться с ветерком в аэропорт на роботакси? Казалось бы, так просто: автомобиль уже изобретен, беспилотные технологии существуют, видеонаблюдение позволяет контролировать весь процесс дистанционно. Так что мешает роботакси стать таким же привычным нам элементом дорог, как светофор? Этика мешает. В том числе.
Проклятие беспилотников
Создание беспилотного транспорта – одна из самых перспективных сфер современной промышленности. Если вы мечтаете этим заняться, но не знаете, с чего начать, приходите на нашу программу «Самообразование: лучшие техники», и узнаете много чего интересного.
Что нужно для роботакси:
- Дорога.
- Автомобиль.
- Программное обеспечение.
- Разум. Искусственный интеллект, удаленный оператор. Как угодно.
И в этом проклятие беспилотников, которое разработчикам пока не удается преодолеть. Если в обычной машине думает водитель, то кто будет решать, что хорошо, а что плохо, за замечтавшегося пассажира?
Реальный случай из Сан-Франциско от февраля 2024 года: роботакси Waymo выехало на перекресток двух оживленных улиц в самом сердце китайского квартала в первый день китайского Нового года, когда горожане развлекались с фейерверками. Роботакси «не подумало», что это плохо. А люди подумали. Напали на машину и сожгли ее. «Большинство обычных водителей автомобилей знают, что следует избегать китайского квартала во время новогодних каникул по лунному календарю. Компьютер этого не понимает», – пояснил Аарон Пескин, президент Наблюдательного совета Сан-Франциско.
Инцидент продемонстрировал как ограниченную способность автомобилей-роботов принимать решения, так и враждебность к ним по множеству причин:
- опасения по поводу безопасности;
- страх потерять работу водителем такси;
- более общий страх перед искусственным интеллектом [Reuters, 2024].
Чтобы справляться с подобными непредусмотренными программным обеспечением рисками, российский «Яндекс», например, сажает на заднее сидение водителя-испытателя. При этом в компании подчеркивают, что принятый на уровне государства правовой режим по отношению к роботакси – пока еще экспериментальный [«Яндекс», 2023].
Почему? В том числе из-за классической проблемы вагонетки, над которой бьется современная когнитивистика. Более подробно эту и другие дилеммы, стоящие перед разумом, мы изучаем на нашей онлайн-программе «Когнитивистика. Развитие мышления».
Даже в США, где разработки беспилотников ведутся уже полвека, роботакси до сих пор не могут ездить в аэропорт и по шоссе. Не разрешено. «Когда (роботакси) теряет уверенность в направлении движения по улице, один из вариантов, как мы видели в Сан-Франциско, – просто остановиться и разобраться, или позвать на помощь, или попросить удаленного помощника-человека что-то идентифицировать. А это не обязательно будет доступно транспортному средству, движущемуся по средней полосе автострады со скоростью 65 миль в час», – предупреждает Брайан Уокер Смит, профессор права и инженер из Университета Южной Каролины, изучающий беспилотные транспортные средства [The San Francisco Chronicle, 2024].
В своем поведении замирающее роботакси похоже на маленького ребенка, которому проще закрыть глаза, проигнорировать требующий решения выбор и сделать вид, что его нет.
Отличие ребенка от взрослого в том, что малыша еще не воспитали. Ему не привили мораль и нравственность, принятые в его культуре и в его обществе.
Поэтому современное непонимание принципов работы беспилотников и других высокотехнологичных устройств сродни тому, как взрослый ругает малыша. Смысл требовать того, чего у него еще нет? И самое главное, с чего мы взяли, что оно должно там быть?
Истоки этики: Аристотель, Кант, Бэкон
Этика, технологии родились не в 20 веке. И даже не в нашем тысячелетии.
Этика включает в себя изучение поведения человека и вынесение суждений о нем. По этой логике, этика – ровесница человечества. Если в тебя запустили камнем, это хорошо или плохо? Смотря для кого.
Наше современное представление об этике как особом аспекте философии родилось в Древней Греции, где в условиях рабовладельческого общества и климатического оптимума у людей появилась возможность додуматься до того, что природа и культура – это не одно и то же. «Никомахова этика» Аристотеля, например, начинается с попытки определить добро в индивидуальных действиях, отмечая, что, хотя все говорят, что добро – это счастье, не все согласны с тем, что представляет собой счастье.
Некоторые считают это:
- Физическим удовольствием.
- Другие – честью.
- Третьи – знаниями.
Пытаясь разрешить это разногласие, Аристотель рассматривает различные виды человеческого поведения и их совершенства или добродетели.
Это добродетели общественной или политической жизни (мужество, умеренность, справедливость и т.д.) и интеллектуальной жизни (наука и способности).
С момента своего возникновения этическая рефлексия часто включала дискуссии о науке и технике (включая медицину), обычно связывая, а иногда и разделяя техническую и моральную сферы. Выходит, этика, технологии неразрывны.
В «Никомаховой этике» наука и «техне» (греческий корень «техники» и «технологий») описываются как интеллектуальные добродетели, при этом при исследовании природы таких качеств используются примеры из искусства и медицины. В тот же период в Клятве Гиппократа представлены формулировки общих этических принципов профессионального медицинского поведения.
Напротив, 2 тысячи лет спустя, когда Иммануил Кант размышлял об отношении этики к науке и технике, он стремился радикально разграничить этическое знание и научное знание, а также моральные или категорические императивы и технические императивы.
Кант доказывал, что подлинные моральные императивы требуют нашей лояльности при любых обстоятельствах. Например, всегда следует говорить правду. Технические императивы обязательны чисто гипотетически. Дом следует строить таким-то образом только в том случае, если необходимо соответствовать таким-то характеристикам.
Однако есть основания исторически выделить два общих этических подхода к науке, технике и медицине. От Платона и Аристотеля до эпохи Возрождения наука и ее технические аналоги подвергались широко принятым религиозным и политическим ограничениям.
Общество и государство считались подходящим руководством для принятия решения о том, следует ли способствовать развитию астрономии и как следует строить дома. Наука и техника без той или иной формы политического или культурного руководства считались неполноценными формами знаний и социально дестабилизирующими, а то и морально пагубными видами деятельности [Ciencia, tecnología y sociedad. Tecnos, 1996].
Однако со времен Возрождения, и особенно в эпоху Просвещения, политические и культурные ограничения были эффективно сняты, заменены новой этической приверженностью беспрепятственному развитию науки и техники ради «благосостояния человечества». Автор концепции – Фрэнсис Бэкон. Основоположник эмпиризма.
Сторонники этой концепции доказывали, что:
- Государство должно как можно больше инвестировать в науку.
- Ученые должны пользоваться автономией при осуществлении своей профессии.
- Рыночная экономика, как своего рода нейтральный процесс продвижения наиболее эффективных технологий, будет направлять техническое развитие.
Наука была представлена как единственная истинная форма знания, а ее прикладные версии (медицина и промышленные технологии) – как источник неограниченных материальных благ для всех.
С середины 18 века, в ответ на прогрессивные научные идеи, а затем и на социальные последствия промышленной революции, возникла серия этических переоценок науки и техники, а затем и медицины.
Центральная идея этих переоценок состоит в том, чтобы отметить, что, хотя наука и технология являются мощными формами знания, которые очень привлекательны для общества и которые часто, на первый взгляд, способствуют прогрессу, во многих случаях они также тесно связаны с нежелательными побочными эффектами или результатами второго или третьего порядка, которые далеки от пользы.
Эти три позиции можно обобщить следующим образом:
- «Моральный скептицизм». Представление о том, что наука и технологии – это ошибочные формы знаний и социально дестабилизирующие формы человеческой деятельности.
- «Моральное поощрение». Убеждение, что наука и технологии являются истинными формами знаний и приносят пользу обществу.
- «Моральное сомнение». Тезис о том, что наука и технологии – это мощные формы знаний и действий, которые очень привлекательны, но иногда имеют нежелательные побочные эффекты.
Сомнения возникли не внезапно, а в связи с рядом технологических разработок. Открытие и применение ядерной энергии, признание загрязнения окружающей среды, биомедицинских инноваций и манипуляций, а также современных информационных технологий породили этические размышления и анализ.
Подробно рассмотреть, как научные убеждения перерастают в сомнения, общественное восхищение – в травлю ученых, а хорошее внезапно становится плохим можно в триллере Кристофера Нолана «Оппенгеймер» [Oppenheimer Movie, 2023].
Официальным «отцом» термина «техноэтика» называют британского художника Роя Эскотта, который в 1997 году представил под этим словом сочетание технологии и знания. В настоящее время Эскотт является магистром техноэтического искусства в Академии магистров Де Тао в Шанхае.
Компьютерный бум
Техноэтика как отрасль родилась до того, как компьютеры вошли в нашу повседневную жизнь. А с ними и технологии электронной обработки информации.
В 21 веке ученые выделяют две технологии, которые представляют собой самые глубокие и распространенные этические проблемы, – это технологии биологии и информации, физических и духовных основ человеческой жизни и культуры.
Точно так же, как биомедицинская наука и технология преобразовали и продолжают трансформировать человеческое мышление и практику по отношению к телу, информационные технологии меняют мышление и практику по отношению к тому, что когда-то называлось духом.
Фактически замена термина «знание» (и его коррелята «мудрость») термином «информация» является симптоматическим случаем этой трансформации.
Человеком, который первым обратил внимание на тот факт, что информатика и информационные технологии привносят фундаментальные изменения в интеллектуальные и духовные измерения культуры, был создатель знаменитой «Элизы» Джозеф Вайценбаум, уважаемый ученый-компьютерщик.
В книге «Граница между компьютером и разумом» (1978) Вайценбаум утверждал, что компьютер зависит от сведения знаний к своего рода вычислениям, поскольку он манипулирует большими объемами информации, но аналогично тому, как калькуляторы переставляют большие числа в соответствии с определенными правилами.
Однако, по мнению Вайценбаума, наука и технология рискуют ограничить рациональность только разумом, который может осуществлять власть посредством технологических и научных средств.
Этика технологии относится к общей попытке адаптироваться к технологиям в целом, а не только к ядерному оружию и электростанциям, промышленному загрязнению, высокотехнологичной биомедицине и электронным средствам массовой информации.
Этика технологии стремится синтезировать все дискуссии более ограниченного масштаба, включая соответствующие вклады из различных областей прикладной этики, таких как:
- сельскохозяйственная этика;
- права животных;
- энергетическая этика;
- этика развития;
- этика на рабочем месте;
- этика бизнеса;
- этика военного дела.
В самом общем виде этот вопрос основан на признании того, что технологическое развитие просто не может продолжаться так, как оно продолжалось последние 300 лет [Donella Meadows, Limits to Growth, 1973]
Наряду с такими традиционными явлениями, как добро, добродетель и справедливость, наука и техника бросают вызов морали человека, побуждая того исследовать такие новые темы, как:
- «Будущее в опасности».
- «Безопасность, риск и неопределенность».
- «Окружающая среда».
- «Конфиденциальность».
- «Ответственность».
Когда федеральная государственная информационная система «Госуслуги» высылает приглашение на «Битву роботов» методом веерной рассылки, это вмешательство в личную жизнь, незаконная реклама или легальное оповещение граждан? Грубо говоря, это спам или честь? ФАС РФ и Арбитражный суд Москвы указывают на последнее, однако аргументы пока не раскрывают [BFM.ru, 2024].
Дебаты о том, приводят ли подобные проблемы к новым способам мышления, которые имеют тенденцию становиться возможными технологическими решениями (в отличие от изменений в человеческом поведении), и в какой степени, предвещают разработку этических проблем в науке, технике и медицине, считают испанские ученые [Ciencia, tecnología y sociedad. Tecnos, 1996].
Галактика технологий и вселенная этики
Если государство не поспевает за техническими новациями и полетом мысли граждан, это дает преимущество бизнесу, который создает продукты в условиях правового вакуума и мышления в парадигме Бэкона. Что думает об этике новых технологий мир капитала?
Публичный имидж компании – это не только сохранение чистоты с юридической точки зрения, но и повышение ее репутации за счет обеспечения доверия среди ее поставщиков и клиентов.
Как подчеркивает Мариано Фернандес из Торговой палаты Барселоны, основные принципы, к которым должна стремиться каждая компания, основаны на:
- честности;
- уважении;
- справедливости;
- заботе в общении.
Прозрачность и честность оказывают положительное влияние как внутри компании, так и за ее пределами. Клиенты ценят открытость при информировании их о том, как выполняются транзакции и другие ключевые процессы. Сотрудники благодарны за это в самом процессе выполнения своей работы. Уважение – это выполнение обещаний и искренние извинения или соответствующая компенсация, если что-то не выполнено. Проявление неуважения побуждает клиента отказаться от участия в бизнесе и ухудшает репутацию компании.
Равенство и справедливость в отношении поставщиков, клиентов и сотрудников являются важной основой устойчивого развития компании, доказывает Фернандес. В конце концов, компании состоят из людей, которые также пользуются услугами, предоставляемыми другими людьми. Открытость к конфликтам и обсуждение решений порождают сочувствие, высоко ценимое отношение среди участников цепочки поставок и логистики. Поддержание линий связи показывает чувство заботы во внутреннем и внешнем восприятии участников цепи.
По мнению Фернандеса, многие забывают, что любое изменение (будь то технологическое или этическое) имеет две стороны. Как монета. Новация может сулить человеческий прогресс, но в то же время порождает ряд конфликтов.
В этой связи, по мысли Фернандеса, цепочки поставок и логистики должны поддерживать целостность при обмене важными и глобальными данными, которые являются неисчислимым активом, но также имеют свою темную сторону в формальных и этических аспектах, а также риски, которые могут сделать их уязвимыми, например, шпионаж или диверсия.
Мыслитель, который в юности стоял у истоков современных испанских грузоперевозок, уверен, что этика при разработке, маркетинге и использовании технологических услуг так же важна, как и сама технология. «Искусственный интеллект не должен стать способом избежать моральной ответственности, которую мы несем друг перед другом, поскольку алгоритмы не способны понимать последствия, которые могут иметь некоторые решения. Искусственный интеллект также не следует рассматривать как модель создания безработицы. Мир труда, который сейчас находится под контролем, должен будет измениться. Потребуется время, чтобы создать мир без эффективной, этической и устойчивой занятости. Новый мир», – писал Фернандес в разгар пандемии [El Mercantil, 2020]. Он его уже не застанет, потому что умер в 2022 году.
Технологический гуманизм
Этические вопросы в сфере высоких технологий и их решения волнуют уже не только ученых, но и обывателей, которые каждые день сталкиваются с проблемами телефонного мошенничества, потери личных данных и дипфейками.
Вопрос: что со всем этим делать?
На этой стадии этика технологии уступает место так называемому «технологическому гуманизму», ответу на новые вызовы, порождаемые цифровой трансформацией.
В общих чертах технологический гуманизм можно охарактеризовать как философское или идеологическое течение, ориентированное на пересечение этики и технологических инноваций. Его сторонники отстаивают ответственное использование инновационных технологий на службе общества и продвигают инновации в рамках этических каналов, обеспечивающих развитие человека.
Технологический гуманизм преследует несколько целей:
- Ликвидация цифрового разрыва. Отсутствие доступа к передовым технологиям порождает социальное, трудовое и культурное неравенство. Для борьбы с ними необходимо предложить всему обществу возможность обучения новым технологиям.
- Гарантия конфиденциальности пользователей. Передача личных данных в Интернете является серьезной проблемой. Строгое регулирование необходимо для обеспечения конфиденциальности всех пользователей и обеспечения того, чтобы их данные не использовались без их согласия.
- Обеспечение этичного использования новых технологий. Такие инновации, как алгоритмы машинного обучения, еще не регулируются. Компании, имеющие возможность собирать, интерпретировать и использовать пользовательские данные, обладают полномочиями, которые должны быть ограничены государственными органами.
- Поиск устойчивых решений. Научно-технический прогресс оказывает неизбежное воздействие на окружающую среду. Крайне важно, чтобы технологические решения были устойчивыми и реализовывались энергоэффективным образом, чтобы минимизировать воздействие на окружающую среду, подчеркивают организаторы одной из крупнейших в мире выставок мобильной индустрии [Mobile World Congress, 2021].
Они продвигают собственную инициативу для достижения этих целей. Государства предлагают свои. Однако технологии уже зашли так далеко, что создать достойное международной конкуренции ноу-хау может и физическое лицо.
Кто знает, вдруг это будете вы?
Веры вам в ваши силы! И не забудьте принять участие в нашем опросе:
