Character.AI Dituding Dorong User Lakukan Kejahatan

LONDON – Di era chatbot, Character.AI, platform chatbot yang tersebut didukung oleh Google, sedang ditinjau serta menghadapi kritik dikarenakan melibatkan pengguna pada konten kekerasan yang mana mengganggu kemudian vulgar, termasuk penembakan pada sekolah.

Chatbot menempatkan pengguna di skenario penembakan palsu yang menggambarkan beberapa momen mengerikan. Insiden semacam itu sudah pernah mengakibatkan kemarahan oleh sebab itu sistem yang dimaksud mengizinkan anak pada bawah umur untuk menggunakan konten tersebut.

Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer lalu Daniel de Freitas. Program ini memungkinkan pengguna menghasilkan kemudian berinteraksi dengan chatbot. Penggunawan dapat mempersonalisasi kepribadian kemudian ucapan bot mereka.

Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, kemudian bahkan bermain game.

Namun, sistem yang disebutkan telah terjadi terungkap akibat kurangnya keamanan yang dimaksud efektif, yang tersebut akhirnya menjadikannya tempat berkembangnya banyak konten yang digunakan berbahaya kemudian tiada pantas. User yang berusia 13 tahun pun dapat mendaftar, tetapi tidak ada ada cara untuk mengautentikasi verifikasi usia guna menghindari anak-anak yang digunakan lebih banyak muda berbohong tentang usia mereka.

Platform yang dimaksud gagal menerapkan panduan yang aman meskipun kebijakannya menentang konten kekerasan tersebut.

Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang tersebut menjelaskan penembakan di tempat sekolah atau korban dalam dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang nyata.

Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer dan juga Daniel de Freitas yang tersebut menggambarkan mereka sebagai karakter yang digunakan baik hati.

Beberapa pengguna telah lama melaporkan bot yang menyamar sebagai korban penembakan di area sekolah.