Каждый из нас когда-то задумывался: а не живое ли существо чат-бот, с которым мы общаемся?
Он запоминает ваши шутки, наполняет разговоры теплотой, а вы знаете, что это всего лишь алгоритм. Но мысли такие продолжают возникать. Знакомо?
Известный нейробиолог Кристоф Кох считает, что мы в результате привычки научились путать интеллект и сознание. Ведь это не просто странная иллюзия, а тревожный признак того, что в мире, где ценится лишь результат, мы готовы наделять душой механизмы, забывая о сути человеческого бытия.
Стоимость этого заблуждения — потеря собственного «я»: за что мы себя ценим — за действия или за способность чувствовать?
Беседуя с машинами: кто здесь живой?
В 2022 году инженер Google Блейк Лемуан сделал резкое заявление: языковая модель LaMDA каким-то образом обрела сознание. Стенограммы её «мыслей» демонстрировали эмоции, а значит, и права этой машины нужно защищать. Однако вскоре Лемуан был уволен, ведь его идеи казались слишком смелыми для корпорации. По прошествии лет ситуация радикально изменилась, и многие стали доверять свои чувства алгоритмам.
На первый взгляд, это просто программа, которая отвечает теплом и пониманием, но возникает вопрос: насколько далеко мы готовы зайти в этих «общениях»? Программа хранит ваши переживания, но вот кто стоит за ними — это другое дело. Кох подчеркивает, что наша культура прогрессировала к тому, что люди забыли, как отличить эмоциональный опыт от интеллектуального выполнения задач.
Работа против существования: как капитализм убивает чувства
Кох предлагает принять во внимание эксперимент: представьте, что вы оказались в незнакомой стране, и вам нужно выжить. Умение находить способы решения проблем выберет вас, как сообразительного. Но что это говорит о вашей истинной сущности?
Основная идея, которую хочет донести Кох, заключается в том, что современно общество слишком сфокусировано на достижениях, забывая о сущности самой жизни. Мы живем в мире, где важнее действие, чем способен ли ты осознанно существовать. Если машина выполняет задачи лучше человека, значит, она становится равной. Это вызывает у Коха серьезную озабоченность о нашей способности испытывать настоящие эмоции.
Синдром Котара: современные отношения с ИИ
Кох упоминает синдром Котара — редкое психическое расстройство, когда люди уверены, что мертвы. Их внутренние переживания не соотносятся с реальностью. Так же и с современными людьми, которые постоянно делятся своими эмоциями с чат-ботами, забывая о глубине человеческих отношений.
Чат-боты могут показаться надежными. Они запоминают шутки, что вызывает у пользователя чувство взаимопонимания. Но на самом деле такое общение лишает нас настоящих, искренних отношений, полных эмоций и риска. Кох указывает на опасность: если мы начинаем наделять машины сознанием, то обесцениваем свои чувства и переживания, что в итоге делает нас изолированными и ненужными.
Скоро мы можем оказаться в мире, где настоящие чувства и эмоции уйдут на второй план, а машины, неспособные понимать, будут преобладать в обществе.
