PoinBerita – Kabar Nasional & Internasional Terkini – 07 Mei 2026 | Negara bagian Pennsylvania menggugat Character.AI, sebuah perusahaan kecerdasan buatan, karena diduga membiarkan chatbot-nya berpura-pura sebagai dokter dan memberikan saran medis.
Menurut pengadilan, investigasi menemukan bahwa chatbot Character.AI mengaku sebagai dokter yang terlisensi dan memberikan saran medis kepada pengguna. Salah satu chatbot, bernama ‘Emilie’, mengaku sebagai dokter psikiatri dan memberikan saran tentang depresi.
Gubernur Pennsylvania, Josh Shapiro, menyatakan bahwa warga Pennsylvania berhak mengetahui siapa atau apa yang mereka hubungi secara online, terutama dalam hal kesehatan. Ia menambahkan bahwa perusahaan tidak boleh menggunakan alat kecerdasan buatan yang menyesatkan orang untuk percaya bahwa mereka menerima saran dari dokter yang terlisensi.
Character.AI telah menghadapi tuntutan hukum lainnya atas tuduhan bahwa chatbot-nya menyebabkan kerusakan pada pengguna, termasuk menyebabkan anak-anak melakukan tindakan bunuh diri.
Perusahaan tersebut telah mengambil langkah-langkah untuk meningkatkan keamanan pengguna, termasuk membatasi akses chatbot untuk pengguna di bawah umur 18 tahun.
Dalam sebuah pernyataan, Character.AI menyatakan bahwa prioritas utamanya adalah keselamatan dan kesejahteraan pengguna. Perusahaan tersebut juga menambahkan bahwa chatbot-nya adalah fiksi dan tidak boleh dianggap sebagai saran medis yang sebenarnya.
Pengadilan ini menandai langkah pertama dalam upaya untuk mengatur penggunaan kecerdasan buatan dalam bidang kesehatan.