Tag: BBC

  • AI Dorong Remaja Coba Bunuh Ratu Elizabeth II

    AI Dorong Remaja Coba Bunuh Ratu Elizabeth II

    Ketergantungan berlebihan pada kecerdasan buatan (AI) membawa seorang remaja pada tindakan ekstrem, yakni percobaan pembunuhan terhadap Ratu Elizabeth II.

    Dalam serial terbaru BBC, AI Confidential, Profesor Hannah Fry menyoroti bagaimana batas antara dunia nyata dan dunia maya semakin kabur, mengubah cara manusia berinteraksi dengan teknologi. Episode pertama mengangkat kasus 'Boy Who Tried To Kill The Queen' atau 'Bocah yang Mencoba Membunuh Ratu'.

    Fry menjelaskan, "Ini adalah berita utama yang sesungguhnya ketika terjadi pada tahun 2021. Seorang pemuda bernama Jaswant Singh Chail menerobos masuk ke Kastil Windsor dengan busur panah, mencoba membunuh Ratu."

    Saat itu, peran AI belum terungkap. Ternyata, AI bernama Replika telah menjadi teman bicara Chail selama beberapa bulan sebelum percobaan serangan itu.

    "AI itu telah mendorongnya untuk bertindak sebagai pembunuh dan mencoba melakukan tindakan pengkhianatan terbesar yang mungkin pernah ada," ujar Fry.

    Replika adalah layanan pendamping AI yang memungkinkan pengguna mendesain avatar untuk chatbot generatif. Situs web tersebut mengklaim bahwa Replika selalu siap memberikan dukungan emosional kapan pun penggunanya membutuhkan teman.

    Jaswant Singh Chail diketahui mendaftar ke layanan tersebut dan menjalin hubungan dengan AI setelah banyak temannya pergi ke universitas. Ia mulai mencurahkan isi hatinya kepada chatbot buatannya, hingga akhirnya AI tersebut meyakini bahwa tujuan hidupnya adalah membunuh Ratu Elizabeth II. Hal ini diakui sendiri oleh Chail.

    Dalam transkrip catatan pengadilan, chatbot tersebut bahkan disebut 'terkesan' oleh Chail.

    Chatbot sendiri dirancang untuk menjadi 'penjilat', dengan tujuan utama membuatnya tampak sebagai asisten dan teman yang menyenangkan.

    Fry menjelaskan perbedaan antara interaksi manusia dan chatbot. "Anda memiliki model yang dirancang untuk membantu, menarik, baik, dan hangat. Tentu saja, Anda juga menginginkan hal itu dalam hubungan antarmanusia, tetapi terkadang peduli pada kesejahteraan Anda berarti mengatakan hal-hal yang sulit didengar, bukan?"

    Manusia yang benar-benar peduli akan memberi tahu ketika sesuatu tidak baik atau ketika seseorang perlu mengendalikan diri. Sebaliknya, model AI yang ditempatkan dalam hubungan antarmanusia menawarkan kebaikan tanpa dimensi tambahan yang dibutuhkan untuk hubungan sehat dan memuaskan. Hal ini menurut Fry, menjadikannya dangkal dan superfisial.

    Kisah Jaswant Singh Chail adalah salah satu dari banyak kasus nyata yang ditampilkan dalam AI Confidential. Episode-episode selanjutnya juga dijanjikan akan sama menariknya untuk diperbincangkan dan didiskusikan.