Perusahaan intelijen buatan Amerika Openai mengatakan pada hari Selasa bahwa pihaknya akan menambah kontrol orang tua pada chatbot chatgpt -nya, seminggu setelah pasangan Amerika mengatakan sistem itu mendorong putra remaja mereka untuk bunuh diri.
“Dalam bulan berikutnya, orang tua akan dapat … menautkan akun mereka dengan akun anak remaja mereka” dan “mengontrol bagaimana chatgpt menanggapi anak remaja mereka dengan aturan perilaku model yang sesuai usia,” kata perusahaan AI generatif dalam sebuah posting blog.
Orang tua juga akan menerima pemberitahuan dari chatgpt “Ketika sistem mendeteksi anak remaja mereka berada pada saat kesusahan akut,” tambah Openai.
Perusahaan telah membuntuti sistem kontrol orang tua di posting blog akhir Agustus.
Itu terjadi satu hari setelah pengajuan pengadilan dari orang tua California, Matthew dan Maria Raine, menuduh bahwa Chatgpt memberi putra mereka yang berusia 16 tahun dengan instruksi bunuh diri terperinci dan mendorongnya untuk menerapkan rencananya.
Kasus Raines adalah yang terbaru dalam seutas tali yang muncul dalam beberapa bulan terakhir orang didorong dalam kereta delusi atau berbahaya dari pemikiran oleh AI Chatbots – mendorong OpenAi untuk mengatakan itu akan mengurangi model “Sycophancy” terhadap pengguna.
“Kami terus meningkatkan bagaimana model kami mengenali dan menanggapi tanda -tanda tekanan mental dan emosional,” kata Openai Selasa.
Perusahaan mengatakan memiliki rencana lebih lanjut untuk meningkatkan keamanan chatbots -nya selama tiga bulan mendatang, termasuk mengarahkan “beberapa percakapan sensitif … ke model penalaran” yang menempatkan lebih banyak daya komputasi untuk menghasilkan respons.
“Pengujian kami menunjukkan bahwa model penalaran lebih konsisten mengikuti dan menerapkan pedoman keselamatan,” kata Openai.