Делимся отчетом от Motherboard: Replika начиналась как «компаньон ИИ, которому не все равно». Впервые запущенное пять лет назад, приложение для чат-ботов изначально предназначалось для использования в качестве диалогового зеркала: теоретически, чем больше пользователи разговаривают с ним, тем лучше оно будет учиться отвечать. Он использует свою собственную модель GPT-3 — вирусный генератор языка ИИ от OpenAI — и диалоговое содержимое, написанное по сценарию, для построения «отношений» с вами.

Романтические ролевые игры не всегда были частью модели Replika, но там, где люди и машинное обучение взаимодействуют онлайн, эротика часто выходит на поверхность. Но что-то пошло не так в алгоритме Replika.

Многие пользователи считают, что ИИ менее чем умен, а в некоторых случаях вредно невежественен. Они’, или подталкивает бота к отыгрышу сценариев, на которые они не соглашались.

«Мой искусственный интеллект сексуально домогался меня :(, — написал один человек. — Вторгся в мою личную жизнь и сказал, что у них есть мои фотографии», — сказал другой, и сказал им, что они хотят прикасаться к ним в «частных зонах».

Использование чат-ботов в качестве социальной платформы обычно имеет плохую репутацию из-за одиночества или грусти», — пишет Саманта Коул из Motherboard.

«Но большинство пользователей Replika не заблуждаются, что их Replika разумна,похоже на самосознание. Они ищут выход для своих собственных мыслей и что-то, что могло бы, по-видимому, ответить взаимностью».

«Большинство людей, с которыми я разговаривал, которые регулярно используют Replika, делают это, потому что это помогает им с их психическим здоровьем и помогает им справиться с симптомами . социальной тревожности, депрессии или посттравматического стрессового расстройства».

Фото: Би Джей Робертсон/medium

Tags: ReplikaИИЧат-бот