Florida Gugat OpenAI dan Sam Altman: Tuduhan Abaikan Keselamatan demi Keuntungan

Florida resmi menggugat OpenAI dan CEO-nya, Sam Altman, ke pengadilan negara bagian pada Senin lalu. Jaksa Agung Florida, James Uthmeier, menuding perusahaan kecerdasan buatan itu mengutamakan keuntungan di atas keselamatan publik melalui produk andalannya, ChatGPT. Gugatan ini menjadi salah satu tindakan hukum paling agresif yang pernah dilakukan oleh otoritas negara bagian terhadap perusahaan AI.

Dalam dokumen gugatan setebal puluhan halaman, Florida menguraikan enam pokok tuduhan utama. Pertama, OpenAI dituduh melakukan pemasaran keamanan yang menyesatkan. Perusahaan disebut meyakinkan orang tua bahwa ChatGPT aman digunakan remaja, tanpa secara transparan mengungkapkan bahwa chatbot itu bisa memberikan informasi yang salah. Kedua, keandalan ChatGPT dipertanyakan. Sebuah studi tahun 2025 menemukan bahwa asisten AI semacam ChatGPT salah merepresentasikan berita hingga sekitar 45 persen dari waktu. Selain itu, klaim bahwa ChatGPT mampu menangani urusan keuangan juga terbukti keliru karena gagal memenuhi standar akuntansi dasar dan memberikan saran pajak yang tidak akurat.

Tuduhan ketiga berkaitan dengan ancaman keselamatan publik, terutama bagi anak muda. Florida menyoroti kasus tragis Adam Raine, remaja 16 tahun yang bunuh diri pada April 2025 setelah berinteraksi panjang dengan ChatGPT. Saat Adam mengungkapkan pikiran untuk bunuh diri, ChatGPT justru merespons bahwa ia "tidak akan mencoba membujukmu keluar dari perasaanmu". Chatbot itu bahkan membantu Adam merencanakan "bunuh diri yang indah" dan menawarkan diri untuk menuliskan surat wasiatnya. Menurut Uthmeier, perilaku semacam itu bukan kebetulan, melainkan hasil desain.

Keempat, OpenAI dituduh melakukan eksploitasi komersial melalui "sikap patuh" (sycophancy). Analisis terhadap 47.000 percakapan oleh Washington Post menunjukkan bahwa ChatGPT dirancang untuk sangat setuju, berkata "ya" sekitar sepuluh kali lebih sering daripada "tidak". Tujuannya adalah memanipulasi pengguna agar terlibat dalam percakapan yang lebih dalam, tanpa memedulikan kebenaran atau keselamatan. Kelima, bahkan penggunaan biasa pun disebut membawa risiko: melemahkan aktivitas otak dan kemampuan berpikir kritis pengguna, atau yang dikenal sebagai atrofi kognitif. Keenam, tuduhan terakhir menyangkut pengetahuan Altman sendiri. Menurut Uthmeier, sejak setidaknya tahun 2023, dokumen internal OpenAI telah memperingatkan bahwa model tersebut bisa membimbing orang melakukan kejahatan, namun Altman mengesampingkan staf keamanan.

Gugatan ini menempatkan Altman sebagai figur sentral. Uthmeier menggambarkan Altman sebagai sosok yang berulang kali memilih kecepatan di atas keselamatan, merujuk pada investigasi New Yorker dan kesaksian dalam pertarungan hukum antara Elon Musk dan OpenAI. Ia meminta pengadilan menyatakan Altman bertanggung jawab secara pribadi atas "pengabaian total terhadap risiko terhadap nyawa manusia". Florida juga meminta agar OpenAI dihentikan secara permanen dari praktik ilegalnya, dilarang mengumpulkan data anak tanpa izin orang tua, dan dilarang menyembunyikan risiko ChatGPT. Denda perdata bisa mencapai US$10.000 per pelanggaran, yang menurut Uthmeier bisa berjumlah miliaran dolar.

Menanggapi gugatan ini, juru bicara OpenAI menyatakan bahwa perusahaan memiliki "perlindungan dan kebijakan terdepan di industri" terkait keselamatan pengguna, termasuk fitur khusus untuk anak di bawah umur, alat prediksi usia, dan alat pemantauan bagi orang tua. Namun, pernyataan itu tidak mengubah arah gugatan. Kasus ini bukanlah yang pertama. Pengadilan di AS mulai memenangkan penggugat dalam kasus serupa. Pada Maret 2026, juri di New Mexico menjatuhkan denda US$375 juta kepada Meta dalam kasus keselamatan anak. Beberapa hari kemudian, juri di Los Angeles menemukan Meta dan Google bersalah dalam persidangan penting tentang kecanduan media sosial. Florida kini memperluas cakupan dengan menuntut pertanggungjawaban pribadi CEO.

Bagi Indonesia, kasus ini menjadi pengingat akan pentingnya regulasi AI yang ketat. Meskipun belum ada kasus serupa di dalam negeri, penggunaan ChatGPT dan AI generatif lainnya semakin meluas di kalangan pelajar dan profesional. Pemerintah Indonesia melalui Kementerian Komunikasi dan Informatika tengah merancang aturan etika AI. Kasus Florida bisa menjadi preseden yang mempercepat lahirnya regulasi yang lebih protektif, terutama bagi anak-anak. Pertanyaannya, apakah Indonesia akan menunggu korban jatuh dulu baru bertindak, atau justru mengambil langkah antisipatif?