NhatXu– OpenAI resmi menghadirkan fitur baru di ChatGPT yang mampu memprediksi usia pengguna. Langkah ini diambil untuk memperkuat perlindungan bagi anak-anak dan remaja. Kekhawatiran terhadap dampak kecerdasan buatan pada generasi muda terus meningkat secara global. OpenAI menilai pendekatan proaktif diperlukan untuk menjaga keselamatan pengguna. Fitur ini dirancang sebagai bagian dari upaya perlindungan berlapis. Perusahaan ingin memastikan pengalaman penggunaan yang lebih aman dan sesuai usia. Pengembangan fitur ini juga merespons tekanan publik dan regulator. Isu perlindungan anak menjadi perhatian utama industri AI. OpenAI menyatakan keselamatan pengguna sebagai prioritas pengembangan produk. Fitur ini mulai diterapkan secara bertahap pada sistem ChatGPT.
“Baca Juga: PBB: Krisis Air Global Kini Masuk Fase Kebangkrutan”
Tujuan Age Prediction dalam Pembatasan Konten Percakapan
Dalam keterangan resmi, OpenAI menjelaskan fitur age prediction membantu mengidentifikasi pengguna di bawah umur. Sistem ini memungkinkan penerapan pembatasan konten yang lebih ketat dan proporsional. Tujuan utamanya adalah mencegah paparan materi tidak pantas bagi anak dan remaja. OpenAI menilai pendekatan berbasis usia penting dalam interaksi AI. Fitur ini tidak hanya berfokus pada larangan, tetapi juga penyesuaian konteks percakapan. Dengan demikian, respons chatbot tetap informatif namun aman. Pembatasan konten diterapkan secara otomatis berdasarkan hasil prediksi sistem. OpenAI menegaskan fitur ini melengkapi perlindungan yang telah ada. Perusahaan menyebut sistem sebelumnya sudah dirancang ramah anak. Age prediction memperkuat mekanisme tersebut secara teknis.
Latar Belakang Sorotan terhadap Dampak ChatGPT pada Remaja
Dalam beberapa waktu terakhir, OpenAI menjadi sorotan terkait dampak ChatGPT pada anak-anak. Sejumlah laporan menyebut keterkaitan interaksi chatbot dengan kasus bunuh diri remaja. Isu tersebut memicu perdebatan luas di kalangan pakar dan publik. Selain itu, OpenAI juga menuai kritik terkait konten sensitif. Pada masa lalu, ChatGPT sempat memungkinkan diskusi bertema seksual dengan pengguna muda. Pada April tahun lalu, OpenAI menambal bug serius dalam sistemnya. Bug tersebut memungkinkan konten erotis muncul untuk pengguna di bawah 18 tahun. Peristiwa itu memperkuat tuntutan perlindungan yang lebih ketat. OpenAI mengakui tantangan besar dalam moderasi AI. Perusahaan menyatakan terus memperbaiki sistem keamanan.
Cara Kerja Algoritma dan Sinyal Identifikasi Usia
Dilansir TechCrunch, OpenAI menjelaskan mekanisme teknis fitur ini. Sistem memanfaatkan algoritma AI untuk menilai berbagai sinyal perilaku akun. Sinyal tersebut mencakup usia yang dinyatakan pengguna saat mendaftar. Lama akun dibuat juga menjadi faktor penilaian. Pola waktu aktivitas akun turut dianalisis oleh sistem. Kombinasi sinyal ini digunakan untuk memprediksi usia pengguna. Jika sistem mendeteksi pengguna di bawah 18 tahun, filter konten otomatis diterapkan. Filter tersebut menyaring topik seperti seks dan kekerasan. Topik sensitif lain juga dibatasi dalam percakapan. Pendekatan ini bertujuan mencegah paparan konten berisiko.
“Baca Juga: App Xbox Masuk Windows 11 Arm dengan Dukungan Game Luas”
Mekanisme Koreksi dan Peran Verifikasi Identitas Persona
OpenAI menyadari sistem prediksi usia berpotensi mengalami kesalahan. Oleh karena itu, perusahaan menyediakan mekanisme koreksi bagi pengguna dewasa. Jika akun dewasa salah dikategorikan, status dapat dipulihkan. Pengguna diminta melakukan verifikasi identitas sebagai langkah koreksi. Proses ini dilakukan melalui mitra verifikasi OpenAI, Persona. Pengguna perlu mengirimkan swafoto untuk verifikasi. OpenAI menegaskan data verifikasi dikelola sesuai kebijakan privasi. Mekanisme ini dirancang untuk menjaga keseimbangan keamanan dan kenyamanan. Perusahaan menilai transparansi penting dalam penerapan fitur baru. Dengan sistem ini, OpenAI berharap kepercayaan pengguna tetap terjaga. Langkah ini mencerminkan arah regulasi AI yang semakin ketat.
Leave a Reply