Regulator dunia maya Tiongkok pada hari Sabtu mengeluarkan rancangan aturan untuk komentar publik yang akan memperketat pengawasan terhadap layanan kecerdasan buatan yang dirancang untuk mensimulasikan kepribadian manusia dan melibatkan pengguna dalam interaksi emosional.
Langkah ini menggarisbawahi upaya Beijing untuk meluncurkan AI secara cepat bagi konsumen dengan memperkuat persyaratan keselamatan dan etika.
Aturan yang diusulkan akan berlaku untuk produk dan layanan AI yang ditawarkan kepada publik di Tiongkok yang menampilkan simulasi ciri-ciri kepribadian manusia, pola berpikir dan gaya komunikasi, serta berinteraksi dengan pengguna secara emosional melalui teks, gambar, audio, video, atau cara lainnya.
Rancangan tersebut menjabarkan pendekatan peraturan yang mengharuskan penyedia layanan untuk memperingatkan pengguna terhadap penggunaan berlebihan dan melakukan intervensi ketika pengguna menunjukkan tanda-tanda kecanduan.
Berdasarkan proposal tersebut, penyedia layanan akan diminta untuk memikul tanggung jawab keselamatan di seluruh siklus hidup produk dan membangun sistem untuk peninjauan algoritma, keamanan data, dan perlindungan informasi pribadi.
Rancangan tersebut juga menargetkan potensi risiko psikologis. Penyedia layanan diharapkan dapat mengidentifikasi status pengguna dan menilai emosi pengguna serta tingkat ketergantungan mereka terhadap layanan. Jika pengguna ditemukan menunjukkan emosi ekstrem atau perilaku adiktif, penyedia layanan harus mengambil tindakan yang diperlukan untuk melakukan intervensi, katanya.
Langkah-langkah tersebut menetapkan konten dan menerapkan garis merah, yang menyatakan bahwa layanan tidak boleh menghasilkan konten yang membahayakan keamanan nasional, menyebarkan rumor, atau mendukung kekerasan atau kecabulan.