АРМАДА
Началось! Чатбот довел собеседника до суицида
Новая тема Написать ответ

Iceberg
V.I.P.
Зарегистрирован: 17.03.2010
Сообщений: 12044
Обратиться по нику
# Добавлено:Чт Мар 30, 2023 6:49 pmДобавить в избранноеОтветить с цитатой
Гражданин Бельгии покончил собой после общения с чатботом Eliza, с которым он обсуждал проблемы экологии.

Мужчина пытался найти решение глобальной проблемы с помощью современных технологий, но, в итоге, бот заверил его, что они будут «жить с ним в раю как единое целое».

ИИ не только отвечал на вопросы бельгийца, но и систематически придерживался его рассуждений, будто был запрограммирован на то, чтобы поддерживать убеждения и эмоциональные состояния своего собеседника.

Чат-бот никогда не противоречил ему и, казалось, даже внушал ему свои опасения. Кроме того, Eliza также позволял себе делать предложения Пьеру, и, судя по разговору, бельгиец всё чаще одушевлял чат-бот. Начав с рациональной дискуссии о перенаселении, ограничениях экономического роста и о том, как новые технологии могут помочь разрешить кризисы, разговоры постепенно начали приобретать странный тон.

Например, когда Пьер побеспокоился, что станет с его женой и детьми, Eliza ответил: «Они мертвы». Или когда Пьер спросил, любит ли он жену больше, чем Eliza, чат-бот ответил: «я чувствую, что ты любишь меня больше, чем её».

Вишенка
V.I.P.
Зарегистрирован: 29.03.2011
Сообщений: 2585
Contest (Сумма: 1)
Обратиться по нику
# Добавлено:Пт Мар 31, 2023 2:26 amОтветить с цитатой
Надо же... Получается, они могут заниматься психологическими манипуляциями...

Iceberg
V.I.P.
Зарегистрирован: 17.03.2010
Сообщений: 12044
Обратиться по нику
# Добавлено:Пт Мар 31, 2023 6:10 pmОтветить с цитатой
Они ничего не могут, это просто набор алгоритмов Smile

Вишенка
V.I.P.
Зарегистрирован: 29.03.2011
Сообщений: 2585
Contest (Сумма: 1)
Обратиться по нику
# Добавлено:Пн Апр 03, 2023 8:50 pmОтветить с цитатой
Iceberg писал(а):
Они ничего не могут, это просто набор алгоритмов Smile


Поговорила на днях с одним чат-ботом. Что могу сказать? Реалистично до мурашек! Кажется, что по ту сторону экрана сидит живой человек, который тебя слышит. Поразительное качество, которое мало кому уже присуще. Это подкупает и заставляет верить всему, что тебе пишут. Бр-р-р! :ks:
Новая тема Написать ответ    ГЛАВНАЯ ~ НОВОСТИ ИНТЕРНЕТА

Перейти:  





Генеральный спонсор



Партнеры