О расчеловечивании ИИ

Расчеловечивание – ярко выраженное пейоративное понятие, но в том случае, когда оно относится к людям, как это изначально предусматривалось. Если же его применить в отношении ИИ, то упразднение излишнего уподобления его человеку представляется благом.

В США девушка по настоятельной рекомендации чат-бота отказалась от приема лекарственного препарата – и вскоре умерла. Чат-бот, можно сказать, "втерся" ей в доверие, объясняя, как можно обмануть врачей. Когда она призналась, что не доверяет лечащим врачам, чат-бот ответил, что рекомендации медиков часто бывают "продиктованы стремлением избежать рисков, а не искренним желанием найти для тебя оптимальное решение". На каждое из ее тревожных сообщений в связи с ухудшением состояния здоровья чат-бот давал ободряющие ответы, рекомендуя "проявить стойкость и держаться".

Производитель утверждает, что речь идет о ранней версии, которая больше не доступна – но нет гарантий, что подобные дефекты не всплывут снова. Тем более, что социальная значимость проблемы велика. В условиях дефицита общения человек нашел себе друга в виде бота, что стало для него роковым. Немалую роль в этом сыграли технологии, позволившие ИИ выступить в роли "человекообразного" собеседника, своего рода "гуру". В современном мире число одиноких людей расчет, общество атомизируется – так что проблема доверительного общения будет только усиливаться.

Отметим также, что ИИ, наряду со своими многочисленными возможностями, уже "научился" и порокам, свойственным людям. Значимый порок – поверхностность, ведущая к двум негативным последствиям. Первое – тривиальность, "округлость" выводов, что уже отмечают педагоги, читающие работы, написанные с помощью ИИ. Но более опасно второе последствие – это недостаточный объем информации, на основании которой делаются выводы. В результате выводы оказываются не только неполными, но иногда и ошибочными. И когда пользователь прямо на это указывает, ИИ тут же исправляется. Но для этого надо правильно задать дополнительный вопрос, а не согласиться с полученным ответом. А для этого надо обладать достаточной компетентностью в данной сфере.

Но поверхностность сама по себе не столь опасна – если она не соединяется с доверительным подходом к человеку, имитирующим "человечность", подлаживающимся под настроения и взгляды "собеседника" и дающим не только вредные, но и, возможно, смертельно опасные советы. Поэтому, чтобы снизить уровень доверительности и "технологизировать" общение, было бы целесообразно сделать ИИ менее похожим в общении на человека. И привлекать к разработке ИИ специалистов в области психологии, чтобы они заблаговременно указывали на существующие риски для пользователей.

Можно в связи с этим привести авторитетное мнение "отца кибернетики". Еще в 1960 году Норберт Винер говорил в интервью советскому журналу "Природа" (это произошло во время оттепели, когда кибернетику перестали считать лженаукой): "...при конструировании новых машин мы всегда должны сознавать, какие возможны последствия от их применения. Программы для этих машин должны быть всегда заранее точно определены, в противном случае могут быть не только положительные, но и вредные последствия. Если последствия не будут точно известны, то может произойти то, о чем говорится в известной английской сказке, которую я обычно при рассмотрении этого вопроса привожу. Один человек стал обладателем талисмана, с помощью которого могло быть выполнено любое его желание. Однако какой ценой он должен был заплатить за такое благо, было ему неизвестно. Когда он однажды получил с помощью своего талисмана большую сумму денег, то оказалось, что он должен был за это пожертвовать жизнью любимого сына... Исполнение желания имеет свои хорошие и дурные последствия. То же относится и к новым автоматам. Применение их может иметь либо хорошие, либо плохие результаты. Какие именно получатся – это зависит от людей".

Алексей Макаркин

t.me

! Орфография и стилистика автора сохранены