Meta baru saja merilis panduan yang dapat digunakan para kontraktor Meta untuk melatih chatbot kecerdasan artifisial (artificial intelligence/AI). Ini dimaksudkan untuk mencegah obrolan tidak pantas antara chatbot AI dengan pengguna anak-anak.
Laporan Engadget, Business Insider yang pertama kali memperoleh panduan baru itu sebagai langkah Meta menangani potensi eksploitasi seksual pada anak secara lebih efektif. Serta, mencegah anak-anak terlibat dalam percakapan tidak sesuai usia.
Pada Agustus 2025, Meta memang menyampaikan bahwa batasan baru untuk AI tengah dikerjakannya. Itu diketahui setelah Reuters melaporkan bahwa kebijakan sebelumnya mengizinkan chatbot melibatkan anak dalam percakapan yang romantis atau sensual.
Meta saat itu merasa laporan tersebut keliru dan tidak konsisten dengan kebijakan mereka dan akhirnya menghapus ketentuan tersebut. Dalam dokumen panduan terbaru, dijelaskan jenis konten apa yang dapat diterima dan tidak untuk chatbot AI Meta.
Eksplisit melarang konten yang memungkinkan, mendorong, atau mendukung pelecehan seksual, permainan peran romantis jika pengguna masih di bawah umur. Berisi saran soal potensi kontak fisik romantis atau intim jika pengguna masih di bawah umur.
Sebelumnya, Chatbot AI beberapa bulan terakhir mendapat sorotan dan dilaporkan oleh berbagai media massa karena menimbulkan kekhawatiran tentang potensi bahaya. Pada Agustus 2025, FTC AS meluncurkan penyelidikan formal terhadap chatbot AI, tidak hanya dari Meta, tapi Alphabet (Google), Snap (Snapchat), OpenAI, dan X.AI. (Antara/WS05)
