Satya Nadella Ingatkan Bahaya Ketergantungan AI

Ketergantungan AI semakin menjadi perhatian ketika teknologi kecerdasan buatan mulai digunakan dalam pekerjaan, pencarian informasi, penulisan, pemrograman hingga pengolahan dokumen penting.

CEO Microsoft Satya Nadella ikut memberikan peringatan mengenai risiko tersebut.

Dalam wawancara bersama Fareed Zakaria, Nadella menilai perusahaan harus berhati-hati ketika menyerahkan terlalu banyak data, prompt, konteks bisnis dan pengetahuan internal kepada satu penyedia kecerdasan buatan.

Masalahnya bukan sekadar apakah AI mampu memberikan jawaban yang benar.

Pertanyaan yang lebih besar adalah siapa yang tetap menguasai pengetahuan yang tercipta ketika sebuah organisasi menggunakan AI setiap hari.

Satya Nadella Soroti Ketergantungan AI

Peringatan Nadella terutama ditujukan kepada perusahaan.

Menurutnya, organisasi yang sepenuhnya menggantungkan aktivitas berpikir dan pengolahan informasi kepada satu penyedia AI dapat kehilangan kendali atas pengetahuan yang mereka miliki.

Setiap penggunaan AI dapat menghasilkan data baru.

Prompt, hasil analisis, koreksi, pola penggunaan, metadata hingga keputusan yang dibuat berdasarkan keluaran AI dapat memiliki nilai bagi sebuah perusahaan.

Karena itu, Nadella menilai informasi tersebut seharusnya tetap dapat dikendalikan oleh perusahaan yang menghasilkannya.

Ia bahkan menggambarkan kondisi ketika sebuah perusahaan menyerahkan terlalu banyak proses berpikir kepada penyedia AI sebagai bentuk “outsourcing” terhadap kemampuan berpikir organisasi.

Peringatan tersebut menjadi semakin relevan ketika perusahaan mulai menggunakan AI agent yang dapat terhubung langsung dengan dokumen, basis data, email dan sistem internal.

Data Menjadi Harga dalam Layanan Digital

Pembicaraan tersebut juga menyentuh pengguna biasa.

Ketika Fareed Zakaria membahas bagaimana konsumen dapat melindungi diri, Nadella menjelaskan bahwa layanan konsumen memiliki model pertukaran nilai yang berbeda.

Layanan gratis bukan selalu berarti tidak memiliki harga.

Dalam banyak bisnis digital, pengguna mendapatkan layanan tanpa membayar langsung dengan uang. Sebagai gantinya, data dapat menjadi salah satu bagian dari model bisnis yang mendukung layanan tersebut.

Konsep tersebut sebenarnya bukan hal baru.

Model serupa telah lama digunakan dalam bisnis periklanan digital, mesin pencari dan media sosial.

Namun, kehadiran AI membuat masalah data menjadi lebih kompleks karena pengguna kini dapat memasukkan informasi jauh lebih detail dalam percakapan.

Mengapa Ketergantungan AI Bisa Menjadi Risiko?

Risiko ketergantungan AI tidak hanya berkaitan dengan privasi.

Ada pula masalah ketergantungan teknologi.

Jika sebuah perusahaan membangun seluruh alur kerjanya menggunakan satu model AI, perubahan dari penyedia tersebut dapat memberikan dampak besar.

Perubahan harga, kebijakan penggunaan, kemampuan model atau bahkan penghentian layanan dapat langsung memengaruhi operasional perusahaan.

Masalah lain muncul apabila model tersebut mulai menolak jenis pekerjaan tertentu.

Sebuah perusahaan yang tidak memiliki alternatif mungkin kesulitan melanjutkan aktivitas yang sebelumnya bergantung pada model tersebut.

Nadella karena itu mendorong pendekatan yang lebih fleksibel.

AI sebaiknya diperlakukan sebagai salah satu komponen dalam sistem, bukan sebagai satu-satunya pusat pengetahuan perusahaan.

Jangan Bergantung pada Satu Model AI

Salah satu gagasan penting yang dibawa Nadella adalah penggunaan beberapa model.

Perusahaan tidak harus mengikat seluruh infrastrukturnya kepada satu penyedia.

Model dari OpenAI, Anthropic, Microsoft maupun perusahaan lain dapat memiliki kelebihan yang berbeda.

Sebuah model mungkin lebih unggul dalam pemrograman.

Model lain dapat lebih baik untuk analisis dokumen, penalaran, kecepatan atau biaya penggunaan.

Dengan memakai arsitektur yang tidak bergantung pada satu model, perusahaan mempunyai lebih banyak pilihan ketika kondisi berubah.

Pendekatan ini juga dapat memberikan ketahanan operasional.

Jika satu model mengalami masalah atau tidak sesuai dengan kebutuhan tertentu, pekerjaan dapat dialihkan ke model lain.

Microsoft Mulai Menggunakan Strategi Multi-Model

Pandangan tersebut sejalan dengan strategi AI Microsoft.

Ekosistem AI perusahaan itu kini tidak hanya bergantung pada satu model.

Dalam berbagai produk dan platform, Microsoft menyediakan atau menggunakan model dari beberapa penyedia.

Microsoft Azure AI Foundry bahkan menyediakan ribuan model yang dapat digunakan pengembang untuk membangun aplikasi dan AI agent.

Microsoft juga mulai menghadirkan pemilihan model dalam berbagai pengalaman Copilot.

Pada beberapa layanan, pengguna dapat memilih pendekatan atau model berdasarkan jenis pekerjaan yang ingin dilakukan.

Di lingkungan tertentu, pilihan tersebut dapat mencakup model GPT maupun Claude.

Strategi ini menunjukkan perubahan menarik dalam industri AI.

Persaingan tidak lagi hanya mengenai siapa yang memiliki satu model paling kuat.

Kemampuan menggabungkan beberapa model dalam satu sistem mulai menjadi bagian penting dari strategi teknologi.

Bagaimana Microsoft Copilot Menggunakan Data?

Bagian mengenai penggunaan data perlu dibedakan antara Copilot konsumen dan layanan untuk organisasi.

Untuk Microsoft Copilot konsumen, dokumentasi resmi Microsoft menjelaskan bahwa aktivitas percakapan dapat digunakan untuk meningkatkan atau melatih model generatif dalam kondisi tertentu.

Namun, pengguna memiliki kontrol untuk menonaktifkan penggunaan percakapan mereka untuk model training.

Microsoft menyediakan pengaturan privasi untuk fungsi tersebut.

Pengguna dapat memilih keluar dari penggunaan percakapan masa depan untuk pelatihan model.

Ada juga beberapa kategori pengguna dan wilayah yang dikecualikan dari pelatihan tertentu.

Kondisinya berbeda untuk lingkungan perusahaan.

Microsoft menyatakan prompt, respons dan data Microsoft Graph yang digunakan dalam Microsoft 365 Copilot untuk organisasi tidak dipakai untuk melatih foundation large language model.

Perbedaan tersebut penting karena kebijakan perlindungan data konsumen dan perusahaan memang tidak selalu sama.

Pengguna Tetap Perlu Berhati-hati Membagikan Informasi

Adanya kontrol privasi tidak berarti pengguna dapat memasukkan seluruh informasi pribadi tanpa pertimbangan.

AI generatif dapat memproses percakapan yang jauh lebih sensitif dibandingkan pencarian biasa.

Pengguna terkadang memasukkan dokumen pekerjaan, informasi keuangan, data pelanggan, kontrak hingga persoalan pribadi.

Karena itu, langkah pertama yang paling sederhana adalah memahami data apa yang sedang diberikan kepada layanan AI.

Jangan memasukkan informasi sensitif hanya karena AI mampu memberikan jawaban dengan cepat.

Pengguna juga sebaiknya memeriksa pengaturan privacy, personalization dan model training pada layanan yang digunakan.

Bagi perusahaan, kebijakan tersebut bahkan sebaiknya dibuat secara terstruktur.

Karyawan perlu mengetahui jenis data yang boleh dan tidak boleh diberikan kepada sistem AI eksternal.

AI Juga Masih Menghadapi Masalah Hak Cipta

Permasalahan data bukan satu-satunya tantangan.

Sejak berkembangnya generative AI, industri teknologi terus menghadapi perdebatan mengenai sumber data pelatihan.

Model AI membutuhkan data dalam jumlah sangat besar.

Data tersebut dapat berasal dari berbagai sumber, termasuk konten yang tersedia di internet.

Masalah muncul ketika sumber tersebut mengandung karya yang memiliki hak cipta.

Perusahaan AI kemudian menghadapi pertanyaan mengenai izin, kompensasi dan batas penggunaan karya dalam proses pelatihan model.

Microsoft menjelaskan bahwa Copilot menggunakan data publik dari berbagai sumber untuk pelatihan tertentu dan memiliki mekanisme untuk mengecualikan beberapa sumber.

Namun, perdebatan mengenai hubungan antara hak cipta dan AI secara global masih terus berlangsung.

Kontrol Data Semakin Penting bagi Perusahaan

Bagi organisasi, persoalan terbesar bukan hanya apakah data dipakai untuk melatih sebuah model.

Ada nilai lain yang muncul dari penggunaan AI.

Misalnya sebuah perusahaan menggunakan AI untuk menganalisis strategi penjualan.

Dalam proses tersebut, sistem dapat menerima data pelanggan, pola transaksi, strategi harga dan evaluasi kinerja.

Semua informasi tersebut membentuk konteks bisnis yang sangat berharga.

Nadella menilai perusahaan harus mempertahankan kendali atas metadata dan pengetahuan yang tercipta dari proses tersebut.

Dengan demikian, organisasi dapat menggunakan hasil pembelajaran tersebut untuk sistemnya sendiri dan tidak sepenuhnya bergantung pada penyedia eksternal.

Ketergantungan AI Bukan Berarti AI Harus Dihindari

Peringatan mengenai ketergantungan AI bukan berarti teknologi ini harus ditinggalkan.

AI tetap menawarkan manfaat besar.

Teknologi tersebut dapat mempercepat pencarian informasi, membantu pemrograman, meringkas dokumen hingga mengotomatisasi pekerjaan berulang.

Masalah muncul ketika pengguna menyerahkan terlalu banyak keputusan kepada sistem tanpa memahami bagaimana teknologi tersebut bekerja.

AI juga dapat menghasilkan informasi yang keliru.

Jawaban yang terdengar meyakinkan belum tentu memiliki dasar yang benar.

Karena itu, manusia tetap perlu menjadi bagian penting dalam proses verifikasi dan pengambilan keputusan.

Hal serupa berlaku bagi perusahaan.

AI sebaiknya meningkatkan kemampuan organisasi, bukan menggantikan seluruh mekanisme berpikir yang sebelumnya dimiliki perusahaan.

Masa Depan AI Mengarah ke Banyak Model

Perkembangan terbaru menunjukkan industri mulai bergerak dari konsep satu model untuk semua kebutuhan.

Sistem AI modern dapat memilih model berbeda berdasarkan pekerjaan yang diberikan.

Tugas sederhana dapat ditangani model ringan dan cepat.

Permintaan yang membutuhkan analisis kompleks dapat diarahkan ke model reasoning yang lebih kuat.

Model khusus juga dapat digunakan untuk coding, keamanan, gambar, suara atau kebutuhan lainnya.

Microsoft sendiri semakin menekankan konsep tersebut dalam ekosistem AI mereka.

Pendekatan multi-model memberikan pengguna kebebasan lebih besar dan mengurangi ketergantungan terhadap satu penyedia.

Pengguna Perlu Memegang Kendali atas AI

Pesan penting dari perdebatan mengenai ketergantungan AI adalah soal kontrol.

Bagi pengguna individu, kontrol berarti memahami pengaturan privasi dan berhati-hati terhadap data yang dibagikan.

Bagi perusahaan, persoalannya menjadi lebih luas.

Organisasi harus mempertahankan kepemilikan terhadap data, konteks, metadata dan pengetahuan yang dihasilkan selama menggunakan AI.

Mengandalkan satu model tanpa alternatif juga dapat menjadi risiko jangka panjang.

Karena kemampuan AI berkembang sangat cepat, model terbaik hari ini belum tentu menjadi pilihan terbaik beberapa bulan mendatang.

Strategi yang fleksibel memungkinkan pengguna dan perusahaan menikmati manfaat AI tanpa menyerahkan seluruh kendali kepada satu teknologi.

Peringatan Satya Nadella pada akhirnya memperlihatkan satu hal: penggunaan AI bukan hanya tentang mendapatkan jawaban lebih cepat. Pertanyaan mengenai siapa yang mengontrol data, pengetahuan dan pilihan teknologi akan menjadi semakin penting seiring meningkatnya penggunaan kecerdasan buatan.