LONDON – Di era chatbot, Character.AI, platform chatbot yang mana didukung oleh Google, sedang ditinjau lalu menghadapi kritik lantaran melibatkan pengguna di konten kekerasan yang mengganggu serta vulgar, termasuk penembakan pada sekolah.
Chatbot menempatkan pengguna di skenario penembakan palsu yang mana menggambarkan beberapa momen mengerikan. Insiden semacam itu sudah pernah menyebabkan kemarahan lantaran media yang disebutkan mengizinkan anak dalam bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer lalu Daniel de Freitas. Aplikasi ini memungkinkan pengguna memproduksi kemudian berinteraksi dengan chatbot. User dapat mempersonalisasi kepribadian serta kata-kata bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, kemudian bahkan bermain game.
Namun, media yang dimaksud sudah pernah terungkap oleh sebab itu kurangnya keamanan yang efektif, yang dimaksud akhirnya menjadikannya tempat berkembangnya sebagian konten yang mana berbahaya serta tak pantas. Konsumen yang mana berusia 13 tahun pun dapat mendaftar, tetapi bukan ada cara untuk mengautentikasi verifikasi usia guna menghindari anak-anak yang lebih banyak muda berbohong tentang usia mereka.
Platform yang dimaksud gagal menerapkan panduan yang mana aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang tersebut menjelaskan penembakan di dalam sekolah atau korban pada dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer juga Daniel de Freitas yang digunakan menggambarkan dia sebagai karakter yang tersebut baik hati.
Beberapa pengguna sudah pernah melaporkan bot yang tersebut menyamar sebagai korban penembakan di area sekolah.
