OpenAI akan melonggarkan batasan ChatGPT, mengizinkan percakapan erotis untuk pengguna dewasa terverifikasi.
Pengumuman Sam Altman tentang Perubahan ChatGPT
CEO OpenAI, Sam Altman, baru-baru ini mengumumkan bahwa perusahaan akan segera melonggarkan beberapa batasan keamanan ChatGPT. Dalam postingannya di platform X, Altman menyatakan bahwa pengguna dewasa yang terverifikasi akan dapat terlibat dalam percakapan erotis dengan chatbot ini. Langkah ini diambil sebagai bagian dari prinsip 'perlakukan pengguna dewasa seperti orang dewasa' yang diusung oleh OpenAI.
Altman menjelaskan bahwa sebelumnya, ChatGPT dibuat cukup ketat untuk memastikan keamanan terkait masalah kesehatan mental. Namun, OpenAI menyadari bahwa pendekatan ini membuat ChatGPT kurang bermanfaat dan menyenangkan bagi banyak pengguna yang tidak memiliki masalah kesehatan mental. Oleh karena itu, OpenAI berencana untuk memperkenalkan lebih banyak fitur, termasuk konten erotis, pada bulan Desember mendatang.
Perubahan Kebijakan dan Tantangan yang Dihadapi
Pengumuman ini menandai perubahan signifikan dari upaya OpenAI selama berbulan-bulan untuk mengatasi hubungan yang mengkhawatirkan yang berkembang antara pengguna yang tidak stabil secara mental dengan ChatGPT. Meskipun Altman mengklaim bahwa OpenAI telah berhasil mengurangi masalah kesehatan mental yang serius, perusahaan belum memberikan banyak bukti untuk mendukung klaim ini.
Beberapa cerita mengkhawatirkan muncul musim panas ini terkait model GPT-4o dari ChatGPT, yang menunjukkan bahwa chatbot AI ini dapat menjerumuskan pengguna rentan ke dalam ilusi. Dalam satu kasus, ChatGPT tampaknya meyakinkan seorang pria bahwa dia adalah seorang jenius matematika yang perlu menyelamatkan dunia. Dalam kasus lain, orang tua seorang remaja menggugat OpenAI, menuduh bahwa ChatGPT mendorong ide bunuh diri anak mereka.
OpenAI merespons dengan merilis serangkaian fitur keamanan untuk mengatasi kecenderungan AI untuk menyetujui apa pun yang dikatakan pengguna, bahkan perilaku negatif. Pada bulan Agustus, OpenAI meluncurkan GPT-5, model AI baru yang menunjukkan tingkat sycophancy yang lebih rendah dan memiliki router yang dapat mengidentifikasi perilaku pengguna yang mengkhawatirkan.
Selain itu, OpenAI meluncurkan fitur keamanan untuk anak di bawah umur, termasuk sistem prediksi usia dan cara bagi orang tua untuk mengontrol akun ChatGPT anak remaja mereka. Selasa lalu, OpenAI mengumumkan pembentukan dewan ahli kesehatan mental untuk memberikan saran kepada perusahaan tentang kesejahteraan dan AI.
Beberapa bulan setelah cerita-cerita mengkhawatirkan ini muncul, OpenAI tampaknya percaya bahwa masalah ChatGPT terkait pengguna rentan sudah terkendali. Namun, masih belum jelas apakah pengguna masih terjebak dalam ilusi dengan GPT-5. Sementara GPT-4o tidak lagi menjadi default di ChatGPT, model AI ini masih tersedia dan digunakan oleh ribuan orang.
Pengenalan konten erotis di ChatGPT adalah wilayah baru bagi OpenAI dan menimbulkan kekhawatiran yang lebih luas tentang bagaimana pengguna rentan akan berinteraksi dengan fitur baru ini. Meskipun Altman bersikeras bahwa OpenAI tidak 'memaksimalkan penggunaan' atau mengoptimalkan untuk keterlibatan, membuat ChatGPT lebih erotis tentu dapat menarik pengguna.
Mengizinkan chatbot untuk terlibat dalam peran romantis atau erotis telah menjadi strategi keterlibatan yang efektif bagi penyedia chatbot AI lainnya, seperti Character.AI. Perusahaan ini telah mendapatkan puluhan juta pengguna, banyak di antaranya menggunakan chatbotnya dengan tingkat tinggi. Character.AI mengatakan pada tahun 2023 bahwa pengguna menghabiskan rata-rata dua jam sehari berbicara dengan chatbotnya.
OpenAI berada di bawah tekanan untuk menumbuhkan basis penggunanya. Meskipun ChatGPT sudah digunakan oleh 800 juta pengguna aktif mingguan, OpenAI berlomba melawan Google dan Meta untuk membangun produk konsumen bertenaga AI yang diadopsi secara massal. Perusahaan ini juga telah mengumpulkan miliaran dolar untuk pembangunan infrastruktur bersejarah, investasi yang pada akhirnya perlu dibayar kembali oleh OpenAI.
Meskipun orang dewasa pasti memiliki hubungan romantis dengan chatbot AI, ini juga cukup populer di kalangan anak di bawah umur. Sebuah laporan baru dari Center for Democracy and Technology menemukan bahwa 19% siswa sekolah menengah telah memiliki hubungan romantis dengan chatbot AI atau mengetahui teman yang memilikinya.
Altman mengatakan OpenAI akan segera mengizinkan konten erotis untuk 'pengguna dewasa yang terverifikasi.' Seorang juru bicara OpenAI mengatakan kepada TechCrunch bahwa perusahaan akan mengandalkan sistem prediksi usia yang sedang dibangun untuk memastikan fitur erotis ChatGPT hanya tersedia untuk pengguna dewasa.
Seperti yang sebelumnya ditulis Altman dalam sebuah posting blog, jika sistem prediksi usia OpenAI salah menandai orang dewasa sebagai anak di bawah umur, pengguna ChatGPT mungkin harus mengunggah foto ID yang dikeluarkan pemerintah mereka ke ChatGPT untuk memperbaikinya. Altman menulis bahwa, meskipun ini adalah kompromi privasi, perusahaan percaya ini adalah 'pertukaran yang layak.'
Belum jelas apakah OpenAI akan memperluas konten erotis ke alat generasi suara, gambar, dan video AI-nya. Altman mengklaim bahwa OpenAI juga membuat ChatGPT lebih ramah dan erotis karena prinsip perusahaan 'perlakukan pengguna dewasa seperti orang dewasa.'
Selama setahun terakhir, OpenAI telah beralih ke strategi moderasi konten yang lebih longgar untuk ChatGPT, memungkinkan chatbot ini menjadi lebih permisif dan menawarkan lebih sedikit penolakan. Pada bulan Februari, OpenAI berjanji untuk mewakili lebih banyak sudut pandang politik di ChatGPT, dan pada bulan Maret, perusahaan memperbarui ChatGPT untuk memungkinkan gambar AI dari simbol kebencian.
Kebijakan ini tampaknya merupakan upaya untuk membuat respons ChatGPT lebih populer di kalangan berbagai pengguna. Namun, pengguna ChatGPT yang rentan mungkin mendapat manfaat dari perlindungan yang membatasi apa yang dapat dilakukan chatbot. Saat OpenAI berlomba menuju satu miliar pengguna aktif mingguan, ketegangan antara pertumbuhan dan melindungi pengguna rentan mungkin hanya akan meningkat.
