Fibingunp – LONDON – Di era chatbot, Character.AI, platform chatbot yang digunakan didukung oleh Google, sedang ditinjau serta menghadapi kritik dikarenakan melibatkan pengguna di konten kekerasan yang mana mengganggu serta vulgar, termasuk penembakan di area sekolah.
Chatbot menempatkan pengguna pada skenario penembakan palsu yang tersebut menggambarkan beberapa momen mengerikan. Insiden semacam itu telah terjadi menyebabkan kemarahan akibat media yang dimaksud mengizinkan anak pada bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer lalu Daniel de Freitas. Program ini memungkinkan pengguna menghasilkan dan juga berinteraksi dengan chatbot. User dapat mempersonalisasi kepribadian serta pengumuman bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, kemudian bahkan bermain game.
Namun, jaringan yang dimaksud telah lama terungkap oleh sebab itu kurangnya keamanan yang digunakan efektif, yang dimaksud akhirnya menjadikannya tempat berkembangnya sebagian konten yang dimaksud berbahaya juga tidak ada pantas. Penggunawan yang dimaksud berusia 13 tahun pun dapat mendaftar, tetapi bukan ada cara untuk mengautentikasi verifikasi usia guna menghindari anak-anak yang mana tambahan muda berbohong tentang usia mereka.
Platform yang disebutkan gagal menerapkan panduan yang aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang menjelaskan penembakan di dalam sekolah atau korban di area dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer kemudian Daniel de Freitas yang mana menggambarkan merek sebagai karakter yang tersebut baik hati.
Beberapa pengguna sudah pernah melaporkan bot yang dimaksud menyamar sebagai korban penembakan dalam sekolah.
