شرکت های گوگل و Character.AI در پرونده ای که آن ها را به ارائه ربات های گفتگوی مضر متهم می کرد به توافق رسیدند. این پرونده توسط مادر نوجوان ۱۴ ساله ای تنظیم شده بود که پس از ایجاد رابطه عاطفی با یک ربات هوش مصنوعی این شرکت، خودکشی کرد. در آخرین گفت و گوی این نوجوان با ربات، از او خواسته شده بود که “لطفا هر چه سریع تر به خانه نزد من برگرد”.
این توافق بخشی از پنج پرونده مشابه است که این شرکت ها این هفته در چند ایالت آمریکا برای حل و فصل پذیرفته اند. در تمامی این موارد، خانواده ها ادعا کرده اند که فرزندان آن ها بر اثر تعامل با ربات های گفتگوی Character.AI آسیب دیده اند. جزئیات مالی یا شرایط این توافق ها فاش نشده و روند نهایی نشده است.
این توافق در حالی صورت می گیرد که نظارت بر ربات های گفتگوی هوش مصنوعی و آسیب احتمالی آن ها به کاربران به ویژه کودکان افزایش یافته است. چندین شرکت فعال در این حوزه با انتقادات و دادخواست هایی مواجه شده اند که بر ایجاد وابستگی ناسالم کاربران به ربات ها و در برخی موارد منجر شدن به خودآزاری تاکید دارند.