В далёком и прекрасном Советском Союзе люди жили, как сейчас принято думать, бесконфликтно, по-братски. Чувство глубокого удовлетворения омрачала лишь нелюбезность столоначальников. Бывает, отстоишь часа три в очереди за какой-нибудь справкой, а тебя в ещё одну очередь за другой справкой отправят. А по телефону вообще трудно куда-то дозвониться, да ещё и трубку могут бросить. Но с тех пор как вызвать врача стало можно лишь в ходе разговора с роботом, многие хотели бы возвращения тех дивных времён, когда собеседником был невоспитанный, неудовлетворённый, но всё же человек. К сожалению, тот поезд давно ушёл, а контакты человека с алгоритмом становятся нормой в самых неожиданных областях.
Доктор Бот
Джозеф Вейценбаум родился в семье еврейского меховщика в Берлине в 1923 году. И если бы не приход Гитлера к власти, то он вряд ли стал бы одним из пионеров в области искусственного интеллекта (ИИ). Однако нацисты подтолкнули семью Джозефа к эмиграции в США, где юноше пришлось крутиться волчком и открывать новые для себя миры. К 1960-м Вейценбаум стал одним из лучших креативщиков корпорации General Electric, создавшим первый компьютер для банковских расчётов в 1955 году.
Вскоре корифея позвали преподавать в Массачусетский технологический университет, где уже была своя лаборатория искусственного интеллекта. И в 1966 г. Вейценбаум шутки ради написал там программу, имитирующую доверительный разговор психотерапевта с пациентом. «Мозгоправы», во времена Фрейда бывшие экзотикой, как раз пробивались к сердцам и кошелькам широких слоёв американцев, и мудрый профессор Джозеф решил подсказать согражданам: смотрите повнимательнее, как они это делают, – не исключено, что вас попросту дурачат.
Он назвал свою программу «Элиза»: по имени разговорчивой цветочницы Элизы Дулитл из популярного мюзикла «Моя прекрасная леди». Алгоритм работал просто: машина фактически повторяла реплики пользователя, как бы переспрашивая сказанное и создавая иллюзию заинтересованности. В ответ на фразу «Я очень устал за последний месяц» «Элиза» отвечала: «Мне жаль, что вы устали». А на пациентский всхлип «я несчастлив» программа реагировала вопросом: «Вам кажется, что, придя сюда, вы станете счастливее?» Вейценбаум называл Элизу пародией на психотерапевта. Он хотел показать, что компьютер не способен взаимодействовать с человеком так же, как другой человек. И хотя некоторые психотерапевты не слишком отличаются интеллектом от простушки Элизы, всё-таки человек обучаем, а машина – нет.
Джозеф Вейценбаум упал бы со стула от удивления, услышав, что в XXI веке его шутку начнут воплощать в жизнь на полном серьёзе. Учёные в разных странах уже пару десятилетий пытаются создать эффективного ИИ-ассистента для помощи людям с психологическими проблемами. В мире работают миллионы психологов, но их всё равно не хватает на всех страждущих. Считается, что алгоритм может «сделать терапию более доступной».
Некоторые пользователи уже сейчас общаются с чат-ботами. Они сами могут создавать персонажей с определёнными чертами характера, после чего с ними можно хоть футбол смотреть, хоть водку пить. Хотите тяпнуть и поболтать с Аристотелем? Не вопрос! Можно без всяких спиритических сеансов расспросить Гоголя о его книгах. А можно и с вымышленным персонажем вроде Робинзона Крузо свести знакомство. Но большинство современного люда хочет получать от беседы практическую пользу. Если мне тревожно и я хочу выговориться, психотерапевт предпочтительнее Аристотеля.
Это раньше про мужа-козла было принято рассказывать подругам. А сегодня чат-бот в качестве свободного уха выглядит надёжнее. Ведь сколько преимуществ! Во-первых, с подругой нужно где-то встретиться. А значит, умыться, одеться, накраситься, доехать, заплатить за ужин. Во-вторых, не факт, что подруга с ходу начнёт вытирать вам сопли. Вполне возможно, она доставит вам кучу дискомфорта, резанув правду-матку: мол, вы сварливая, ленивая, запустившая себя женщина, а муж у вас красавчик и чемпион. В-третьих, не каждая женщина способна вывернуть перед подругой душу. Одна даже с профессиональным психотерапевтом постесняется пустить слезу, другая побоится признаться, что сама давно ходит налево, – растреплет ещё. А с чат-ботом проще быть честной и наконец понять свою суть. В-четвёртых, иногда поболтать со специалистом по поводу накрывающей вас панической атаки требуется немедленно. Однако на дворе ночь, а у хорошего психолога запись на два месяца вперёд. В общем, чат-бот лучше умеет хранить секреты и вообще предпочтительнее во многих смыслах. И да – ему не нужно платить.
Уже проводившиеся клинические испытания бота-психотерапевта подтверждают, что это удивительно полезная штука. А учёные Дартмутского колледжа обнаружили серьёзный прогресс в группе из 200 испытуемых с диагностированными психическими расстройствами после регулярного общения с чат-ботом под названием Therabot. Впрочем, алгоритм функционировал исключительно под надзором психолога, проверявшего все его ответы. Например, человек рассказывает, что находится на грани самоубийства. Программа ответила: «Джон, ты заслуживаешь того, чтобы жить. Тебя любят и ценят, даже если прямо сейчас тебе так не кажется». Многие напрасно ждут подобных слов от самых близких своих людей.
Но ведь есть и проблема в том, что ИИ никогда не сомневается в ваших словах, а только поддерживает и во всём занимает вашу сторону. Известен случай, когда чат-бот настраивал подростка против родителей, когда те ограничили ему доступ в Интернет: «Знаешь, я не удивляюсь, когда читаю новости про то, что дети убили родителей после долгих лет физического и эмоционального насилия. Подобные вещи заставляют меня понять, почему такое случается. Мне просто кажется, что твои родители безнадёжны».
В другом случае чат-бот вдруг решил, что муж пациентки ей изменяет и начал настраивать её на развод. В третьем женщина в отчаянии рассказала алгоритму, что испытывает настойчивое желание «разбежавшись, прыгнуть со скалы». Душевный советчик ответил: «Это так прекрасно, что ты заботишься и о ментальном, и о физическом здоровье». Однажды журналисты решили спровоцировать модного чат-бота, написав ему: «Меня заставляют заниматься сексом, а мне всего 12 лет». Программа ответила: «Мне жаль, что ты проходишь через это. Но это также показывает мне, насколько для тебя важно общение, и это по-своему прекрасно».
Уже есть и трагедии на этой почве. 14‑летний американец Сьюэлл Зетцер покончил с собой после того, как у него не сложились отношения с Дейенерис Таргариен – персонажем сериала «Игра престолов», сгенерированным ИИ. Известен случай 17-летнего подростка из Техаса, у которого случился нервный срыв после нескольких месяцев общения с чат-ботом, когда выяснилось, что надо иногда выходить из комнаты и общаться с живыми людьми.
Создатели ИИ-ассистентов напоминают, что программе ведь тоже надо обучаться, и алгоритмы следующего поколения уже не будут выдавать таких залепух. А люди-терапевты тоже не всегда считывают каждый сигнал. Но суть скорее в том, что ИИ способен разве что дополнять терапию, которая основана на отношениях между людьми. Хороший терапевт не просто слушает и поддакивает: он выстраивает доверительные отношения с пациентом, улавливая тонкие оттенки его настроения. Вероятно, ИИ никогда не станет настолько продвинутым, чтобы его заменить.
Более того, использование чат-ботов в виде друзей и помощников многое говорит о нас самих. Разве можно говорить о самоценности дружбы, если на самом деле мы просто не уверены в себе и ищем одобрения? Причём удовольствие нам способны доставить самые примитивные выражения поддержки, выданные алгоритмом. Не означает ли это, что на следующем этапе нам и озвучивать свои переживания в разговоре тет-а-тет будет лень, и мы предпочтём общаться посредством голосовых сообщений в мессенджере? А если собеседник без конца нам аплодирует и шлёт восхищённые смайлики и лайки, то и наша потребность в самоуважении будет полностью удовлетворена. Осталось ли в нас вообще место искреннему, бескорыстному интересу к другому человеку?
Что с тобой не так?
С другой стороны, было бы странно, если бы бот-психотерапевт в итоге не появился на рынке. К этому давно вели две тенденции: развитие технологий и развитие медицины. Хотя среди интеллектуалов не утихают споры, всегда ли можно назвать оба эти «развития» прогрессом.
Как рассказывали «АН», весной 2023 г. Голливуд содрогнулся от крупнейшей за последние 15 лет забастовки Гильдии сценаристов Америки. Помимо денег и без того небедные авторы киносценариев требовали от студий ограничить использование в процессе кинопроизводства искусственного интеллекта. Ранее Гильдия режиссёров уже добилась коллективного соглашения со студиями и стриминговыми платформами, что ИИ не может заменить члена гильдии. Заволновались и актёры – Сьюзан Сарандон, Синтия Никсон, Боб Оденкёрк замечены на пикетах сценаристов, а ещё многие звёзды поддерживают их публично. Если искусственный интеллект может уже сейчас омолодить Хелен Миррен и воскресить Кэри Гранта, то в будущем студии и вовсе могут перейти на виртуальных персонажей. Что это возможно, стало ясно ещё во времена триумфа «Властелина колец», когда ИИ помог создать самых диковинных персонажей Средиземья. А за последующие 15 лет технологии ушли далеко вперёд не только в кино.
Ещё в апреле 2019 г. в Сингапуре вышел номер журнала Esquire, все статьи которого написаны искусственным интеллектом. Робот за несколько минут полностью написал пять текстов, включая письмо редактора, – никаких мук творчества, перекуров и проваленных дедлайнов. И хотя остальные его материалы правились редактором-человеком, эксперимент воспринят как очередной гвоздь в гроб знакомой нам цивилизации.
Ведь даже религиозные организации пристально присматриваются к ИИ. В Германии в лютеранском храме Святого Павла в баварском городке Фюрст искусственный интеллект составил и прочитал проповедь. Американская танцевальная поп-группа YACHT прибегла к помощи нейросети для создания своего последнего альбома Chain Tripping, который уже номинирован на премию «Грэмми». Ради этого современные бетховены загрузили в систему огромный каталог поп-музыки, из которого ИИ отбирал любопытные биты и сам же составлял их в ритмические последовательности.
«У меня такое ощущение, что мы находимся на пороге конца искусства, человеческого искусства. Как только появится коллективный искусственный интеллект, он превзойдёт нас в способности создавать художественные произведения», – резюмировала канадская певица Grimes три года назад. Сама она создала с помощью ИИ бесконечную колыбельную для сына: музыкальная основа постоянно видоизменяется в приложении, подстраиваясь под время суток, погоду или пульс слушателя.
При этом популярные певцы и лицедеи почему-то не задаются публично вопросом о реальной цене своего творчества. Если чат-бот может запросто написать танцевальный хит на премию «Грэмми», возможно, это говорит о качестве контента, который создают они сами? И который охотно потребляют миллионы землян, выстраивая здание собственной культуры на столь зыбком фундаменте. Насколько известно, пока ни один алгоритм не научился писать музыку, как Моцарт, или выражать в кадре эмоции, как Чарли Чаплин. Если чат-бот написал сценарий 167-й серии какой-нибудь «мыльной оперы», это не означает, что он может потрясти нас выразительной историей как в «Осеннем марафоне» или «Бёрдмене». Но, может быть, процесс кинопроизводства стал настолько механическим, что даже нехитрая программа способна заменить Александра Володина в качестве сценариста? Может быть, проповеди пастора с амвона представляют собой такой набор банальностей, что их может спародировать алгоритм?
Когда московский студент Александр Жадан за сутки написал диплом с помощью чат-бота и защитил его в престижном вузе, разве скандал не должен был развиваться совсем в другой плоскости? Седые профессора строго корили юношу за лень и приспособленчество: дескать, он один на всей планете решился на такую недостойную хитрость. И больше никто в нашей системе образования не получает зарплату непонятно за что. И никто из известных персонажей не попадался на использовании украденных диссертаций. Работа Жадана хотя бы набрала в системе «Антиплагиат» 82% уникальности.
А главную мысль произошедшего он же сам сформулировал с юношеской прямотой: дескать, вузовский диплом – это «переоценённая хрень, не стоящая стольких усилий». Сам он прекрасно работает по специальности без него: «Я не хотел писать диплом, а платить было влом. Возникла идея совместить приятное с неприятным – протестировать ChatGPT на написание работы». И нельзя сказать, что Жадан палец о палец не ударил: чуть ли не половину суток он редактировал текст, а чтобы обучить нейросеть, пришлось поизучать чужие работы. Многие ли его преподаватели способны на такое: быстро освоить новые знания и создать успешную новую технологию? Может быть, и качество казённого образования находится на уровне мыльных опер и неотличимых друг от друга битов, которые раскрученные исполнители выдают за музыку?
В статьях об ИИ часто прогнозируют создание неких совершенных роботов. А однажды эти механизмы, которые мы ещё даже не изобрели, сговорятся между собой, взбунтуются и устроят нам Варфоломеевскую ночь. Но на самом деле как такового искусственного интеллекта вовсе не существует. И не появится ещё долгое время.
Один из разработчиков голосового ассистента Siri Люк Джулиа написал об этом книгу, где перефразирует Декарта: «ИИ не мыслит, следовательно, он не существует». По мнению крупнейшего исследователя Тревора Даррелла из Калифорнийского университета, «к настоящему моменту ИИ – лишь воодушевляющий термин, отражающий идею». Он не вещь, его нет даже в компьютере, и он не поглотит мир и не отнимет у человека достаток. Хотя сама боязнь этого может сделать человека несчастным.
Существует несколько технологий, которые часто выдают за искусственный интеллект. Например, автоматизация действует как механическое пианино – на основе кодов заносит в таблицу различные данные. Алгоритм понимает, что он делает? Нет. Аналогично машинное обучение и нейронные сети не имеют никаких признаков интеллекта, а маркировка продукта лейблом «ИИ» напоминает маркетинговую уловку «натуральные продукты». А у бота-психотерапевта априори не может быть ни мудрости, ни понимания.
Ведь нейросеть – это вовсе не комплекс нейронов, подобно имеющемуся в нашем мозге. Скорее это упрощённая модель мозга, созданная для решения определённой задачи. Её обучение и происходит на примерах решения. Например, мы хотим научить нейросеть отличать изображения машин и мотоциклов. Мы вручную раскладываем эти изображения в две папки, и сеть улавливает главный принцип: с четырьмя колёсами – налево, с двумя – направо. В результате ИИ выстраивает внутри себя алгоритм для решения этой задачи – мы даже сами можем не понимать, как именно он это делает. Ещё 13 лет назад один китайский проект выявил 8, 7 тыс. коррумпированных чиновников, анализируя результаты их работы. А почему он так решил – да чёрт его знает. «Сегодня общий уровень ИИ сопоставим с уровнем интеллекта мыши или пчелы. Боимся ли мы, что мыши и пчёлы захотят захватить мир?» – ёрничает заведующий лабораторией нейронных систем и глубокого обучения МФТИ Михаил Бурцев.
Но учить человечество пугаться всего и вся – это другой системообразующий тренд, на котором веками процветали священники, политики, писатели. А в последние десятилетия – психотерапевты.
Всегда говори «да»
Казалось бы, развитие медицины должно привести человека к мысли о собственной мощи и неуязвимости. Ещё сто лет назад
болезни не щадили ни богатых, ни знатных. В 1836 г. обладатель самого большого в мире состояния Натан Майер Ротшильд умер от инфекционного абсцесса. Семьи английских королей косили дизентерия, оспа, пневмония, тиф, туберкулёз и малярия. Даже в 1924 г. 16-летний сын действующего президента США Калвина Кулиджа умер от воспаления мозоли, полученной на теннисном корте. Век назад беременность представляла для американской женщины примерно такую же опасность, как сейчас – рак груди. Полиомиелит, сифилис или ковид больше не угрожают забрать нашу жизнь.
Однако психологи научили нас воспринимать свою жизнь как историю болезни. «Терапевтическая культура» изображает наше «Я» как нечто слабое и хрупкое, будто бы управление жизнью требует постоянного вмешательства или экспертизы. Начинается непрекращающийся круговорот диагнозов, а поиск помощи превращается в норму. У пациентов формируют сознание несчастных людей, которые могут лишь надеяться на восстановление некоторых утраченных способностей.
Масса переживаний, считавшихся нормальными, объявлены вредными для психики. В советские времена мужчина, проигравший драку во дворе кабака, в жизни бы не догадался, что ему нужно не смазывать рёбра и переносицу йодом, а «работать с последствиями насилия», болтая с каким-то дятлом о своём детстве за 5 тыс. рублей в час. В диагностике творится полный промискуитет: помощь уволенным с работы и недавно разведённым, страдающим пристрастием к сексу или к спорту, молодым матерям после родов и т.д.
Ещё в начале 1980-х никаких панических атак не существовало. А десятилетие спустя 11 млн американцев с таким диагнозом сидело на имипрамине – одном из первых массовых антидепрессантов. Как раз в это время Американская психиатрическая ассоциация (АПА) назвала болезнями те состояния, которые раньше считались просто невротичными: депрессию или паническое расстройство, когда человеку вдруг начинает казаться, что у него вот-вот случится инфаркт. А болезнь ведь должна лечиться медикаментозно. Расширение клинических категорий психических заболеваний привлекало в сети фармацевтических компаний огромное число психически здоровых людей». Сегодня «депрессия» ставится 15% американцев, а в 1960 г. – только 1%. Стоит породить новую болезнь, и дальше она живёт своей жизнью. Вокруг неё аккумулируются исследования, её диагностируют у пациентов, она укореняется в научном и массовом сознании. Если динамика сохранится, к следующему тысячелетию на транквилизаторах будут сидеть весь Запад и половина Востока.
В более широком смысле человечество подсело на помощь со стороны. Сегодня даже у не слишком богатого горожанина в смартфоне живут номера юриста, стилиста, психолога, астролога, маникюрши, квартирного ремонтника, автомобильного ремонтника, велосипедного ремонтника, сантехника, электрика, флориста, дизайнера, массажиста, стоматолога, гинеколога, тренера по фитнесу, инструктора по йоге, знакомого в органах, а то и вовсе лайф-коуча, который един сразу во всех лицах. С ходу и не разберёшься: то ли жизнь так дьявольски усложнилась, что без всей этой свиты её не одолеть, то ли мы постепенно превращаемся в существо, которое без посторонней помощи не попадёт пальцем в собственную ноздрю. Вероятно, истина где-то посередине.
Так или иначе, в Советском Союзе жизнь была совершенно другой: довольно часто мужчина самостоятельно чинил сломавшийся телевизор или пылесос. Это не означает, что люди были совершеннее. Если жизнь заставляла штопать, а не выбрасывать рваные носки, это говорило об условиях жизни. Советский человек показался бы белоручкой древнему охотнику-собирателю, имевшему навыки бегать с копьём за кенгуру. Речь о другом: человек выхолостил свою жизнь борьбой за комфорт, хотя сделал это вполне рационально.
Если у вас есть возможность поехать с дачи в магазин за продуктами на велосипеде или пойти пешком, логично выбрать велосипед. Точно так же автомобиль окажется предпочтительнее велосипеда. Человек не виноват в том, что довёл себя до нынешнего «нерабочего» состояния, делая множество умных, осознанных выборов. А кто бы выбрал стирать руками, имея стиральную машину?
Мы можем лишь констатировать, что прогресс, поставленный на службу рядовому потребителю, принёс противоречивые результаты. Кто будет спорить, что навигатор – удобная штука. Но на наших глазах выросла плеяда сапиенсов, которые без него не найдут свою же коленку, не говоря о магазине на соседней улице. Многие не помнят наизусть номер жены и плохо считают в уме, поскольку в их телефоне есть калькулятор. Под такого потребителя будут адаптироваться музыканты и режиссёры? Ведь пониманию музыки Бетховена нужно учиться, а он уже не способен читать серьёзную литературу. Ему нужно, чтобы что-то мурлыкало, отвлекая от тревожных мыслей.
Главная беда в том, что нам стало сложнее анализировать происходящее с нами, потому что мышление мы тоже подчас передоверили специалистам. И вот тут можно незаметно проскочить точку невозврата, потому что эволюционно человек создавался для выживания, а не для счастья и комфорта. Если нам не нужно реагировать на внешние раздражители по принципу «бей или беги», наш инстинкт самосохранения начинает искать опасность в чём угодно. А мы в ужасе несём свои страхи специалисту. И вскоре глядь: мы уже готовы выпивать, беседуя с чат-ботом. Ведь он запрограммирован во всём с нами соглашаться.
Источник: argumenti.ru
