Surat Soal Proyek AI Super Jadi Alasan di Balik Pemecatan Sam Altman?


Jakarta, CNN Indonesia —

Drama pemecatan Sam Altman dari CEO OpenAI masih berlanjut. Belakangan, sebuah surat dari peneliti mengenai proyek kecerdasan buatan (AI) super disebut-sebut punya peran penting di balik pemecatan Altman.

Staf OpenAI baru-baru ini mengirimkan surat peringatan ke perusahaan terkait proyek baru kecerdasan buatan (AI) yang kemungkinan mengancam umat manusia.

Dua sumber yang dekat dengan isu tersebut mengatakan surat dan algoritma AI yang belum mencuat ke publik ini adalah perkembangan penting menjelang pemecatan Altman.


ADVERTISEMENT


SCROLL TO CONTINUE WITH CONTENT

Sebelum kembalinya Altman pada Selasa (21/11) malam, lebih dari 700 karyawan mengancam akan berhenti dan bergabung dengan Microsoft sebagai bentuk solidaritas terhadap pemimpin mereka yang dipecat.

Kedua sumber mengatakan surat tersebut adalah salah satu faktor di antara daftar panjang keluhan dewan direksi yang menyebabkan pemecatan Altman.

Menurut salah satu sumber, CTO OpenAI Mira Murati pernah menyebutkan proyek tersebut, yang disebut Q* (dibaca Q star), kepada para karyawan. Murati juga mengatakan sebuah surat telah dikirim ke dewan sebelum peristiwa akhir pekan ini.

Dikutip dari Reuters, OpenAI telah membuat kemajuan pada Q* yang menurut beberapa pihak internal dapat menjadi terobosan dalam pencarian untuk kecerdasan super, yang juga dikenal sebagai kecerdasan umum buatan (artificial general intelligence/AGI).

OpenAI mendefinisikan AGI sebagai sistem AI yang lebih pintar dari manusia.

Menurut salah satu sumber, model baru ini disebut mampu memecahkan masalah matematika tertentu dengan sumber daya komputasi yang sangat besar.

Meskipun hanya mampu mengerjakan soal matematika setingkat siswa sekolah dasar, keberhasilan dalam tes semacam itu membuat para peneliti sangat optimis akan kesuksesan Q* di masa depan, kata sumber tersebut.

Para peneliti menganggap matematika sebagai batas pengembangan AI generatif. Saat ini, AI generatif pandai menulis dan menerjemahkan bahasa dengan memprediksi kata berikutnya secara statistik, dan jawaban untuk pertanyaan yang sama dapat sangat bervariasi.

Namun, menaklukkan kemampuan untuk mengerjakan matematika, di mana hanya ada satu jawaban yang benar, menyiratkan bahwa AI akan memiliki kemampuan penalaran yang lebih besar yang menyerupai kecerdasan manusia.

Para peneliti AI percaya hal ini dapat diterapkan pada berbagai hal, salah satunya penelitian ilmiah baru.

Pasalnya, tidak seperti kalkulator yang dapat menyelesaikan sejumlah operasi yang terbatas, AGI dapat menggeneralisasi, mempelajari, dan memahami.

Lebih lanjut, sumber-sumber ini mengatakan dalam surat mereka kepada dewan, para peneliti menandai kehebatan dan potensi bahaya AI, tetapi mereka tidak menyebutkan secara spesifik masalah keamanan yang disebutkan dalam surat tersebut.

Diskusi di antara para ilmuwan komputer tentang bahaya yang ditimbulkan oleh mesin super cerdas sudah lama diperbincangkan, misalnya, jika mereka mungkin memutuskan dalam surat mereka kepada dewan, para peneliti menandai kehebatan dan potensi bahaya AI, kata sumber-sumber itu tanpa menyebutkan secara spesifik masalah keamanan yang disebutkan dalam surat tersebut.

Telah lama ada diskusi di antara para ilmuwan komputer tentang bahaya yang ditimbulkan oleh mesin super cerdas, misalnya jika mereka mungkin memutuskan bahwa penghancuran umat manusia adalah untuk kepentingan mereka.

(lom/dmi)

[Gambas:Video CNN]

Leave a Reply

Your email address will not be published. Required fields are marked *