Terakhir diperbarui: Februari 2024
Dasar-dasar Copilot di Bing
Pendahuluan
Pada februari 2023, Microsoft meluncurkan Bing baru, pengalaman pencarian web yang disempurnakan AI. Ini mendukung pengguna dengan meringkas hasil pencarian web dan menyediakan pengalaman obrolan. Pengguna juga dapat menghasilkan konten kreatif, seperti puisi, lelucon, cerita, dan, dengan Bing Image Creator, gambar. Bing yang disempurnakan AI baru berjalan pada berbagai teknologi canggih dari Microsoft dan OpenAI, termasuk GPT-4, model bahasa besar mutakhir (LLM), dan DALL-E, model pembelajaran mendalam untuk menghasilkan gambar digital dari deskripsi bahasa alami, baik dari OpenAI. Kami bekerja dengan kedua model selama berbulan-bulan sebelum rilis publik untuk mengembangkan serangkaian kapabilitas dan teknik yang disesuaikan untuk bergabung dengan teknologi AI mutakhir ini dan pencarian web di Bing yang baru. Pada November 2023, Microsoft mengganti nama Bing menjadi Copilot baru di Bing.
Di Microsoft, kami mengambil komitmen kami untuk bertanggung jawab secara serius kepada AI. Pengalaman Copilot di Bing telah dikembangkan sejalan dengan Prinsip AI Microsoft, Standar AI Bertanggung Jawab Microsoft, dan dalam kemitraan dengan pakar AI yang bertanggung jawab di seluruh perusahaan, termasuk Office of Responsible AI Microsoft, tim teknisi kami, Microsoft Research, dan Aether. Anda dapat mempelajari selengkapnya tentang AI yang bertanggung jawab di Microsoft di sini.
Dalam dokumen ini, kami menjelaskan pendekatan kami untuk bertanggung jawab AI untuk Copilot di Bing. Sebelum dirilis, kami mengadopsi metode canggih untuk mengidentifikasi, mengukur, dan memitigasi potensi risiko dan penyalahgunaan sistem serta untuk mengamankan manfaatnya bagi pengguna. Karena kami terus mengembangkan Copilot di Bing sejak pertama kali dirilis, kami juga terus mempelajari dan meningkatkan upaya AI kami yang bertanggung jawab. Dokumen ini akan diperbarui secara berkala untuk menyampaikan proses dan metode kami yang terus berkembang.
Istilah kunci
Copilot di Bing adalah pengalaman pencarian web yang disempurnakan AI. Seiring berjalannya teknologi baru yang canggih, kami memulai dengan menetapkan beberapa istilah utama.
Model pembelajaran mesin yang membantu mengurutkan data ke dalam kelas berlabel atau kategori informasi. Dalam Copilot di Bing, salah satu cara kami menggunakan pengklasifikasi adalah untuk membantu mendeteksi konten yang berpotensi berbahaya yang dikirimkan oleh pengguna atau yang dihasilkan oleh sistem untuk mengurangi pembuatan konten tersebut dan penyalahgunaan atau penyalahgunaan sistem.
Salinan di Bing dialihkan dalam hasil pencarian web saat pengguna mencari informasi. Ini berarti bahwa kami memusatkan respons yang diberikan ke kueri pengguna atau perintah pada konten berpangkat tinggi dari web, dan kami menyediakan tautan ke situs web sehingga pengguna bisa mempelajari selengkapnya. Bing menetapkan peringkat konten pencarian web dengan fitur pembobotan berat seperti relevansi, kualitas dan kredibilitas, dan kesegaran. Kami menjelaskan konsep-konsep ini secara lebih mendetail dalam Cara Bing Memberikan hasil Search (lihat "Kualitas dan Kredibilitas" dalam "Bagaimana Bing Peringkat Search Hasil").
Kami menganggap respons beralasan sebagai respons dari Copilot di Bing di mana pernyataan didukung oleh informasi yang terdapat dalam sumber input, seperti hasil pencarian web dari kueri atau perintah, Pangkalan Pengetahuan informasi yang diperiksa fakta Bing, dan, untuk pengalaman obrolan, riwayat percakapan terbaru dari obrolan. Respons tidak teralur adalah tanggapan di mana pernyataan tidak dialihkan dalam sumber input tersebut.
Model bahasa besar (LLM) dalam konteks ini adalah model AI yang dilatih pada data teks dalam jumlah besar untuk memprediksi kata secara berurutan. LLM mampu melakukan berbagai tugas, seperti pembuatan teks, ringkasan, penerjemahan, klasifikasi, dan banyak lagi.
Metaprompt adalah program yang berfungsi untuk memandu perilaku sistem. Bagian dari metaprompt membantu menyelaraskan perilaku sistem dengan Prinsip AI Microsoft dan ekspektasi pengguna. Misalnya, metaprompt mungkin menyertakan baris seperti "berkomunikasi dalam bahasa pilihan pengguna."
Metode atau kombinasi metode yang dirancang untuk mengurangi potensi risiko yang mungkin timbul dari penggunaan fitur yang digerakkan AI dalam Copilot di Bing.
Teks, suara, gambar, dan/atau kueri aktif lainnya yang dikirim pengguna ke Bing sebagai input ke model yang mendukung pengalaman generatif berbasis AI baru di Bing. Misalnya, pengguna mungkin memasukkan perintah berikut:
"Saya merencanakan perjalanan untuk hari jadi kami pada bulan September. Apa saja tempat yang bisa kita kunjungi yang berada dalam 3 jam penerbangan dari London Heathrow?”
Teks yang dikirim pengguna ke Bing dari bilah pencarian untuk pencarian web. Dalam dokumen ini, kami membedakan kueri (untuk pencarian web) dari perintah (untuk pengalaman generatif yang digerakkan oleh AI di Bing). Misalnya, pengguna mungkin memasukkan kueri berikut ini untuk mencari di web:
"tujuan perjalanan di dekat bandara London Heathrow"
Teknik yang digunakan oleh para ahli untuk menilai keterbatasan dan kerentanan sistem dan untuk menguji efektivitas mitigasi yang direncanakan. Pengujian tim merah dan pengujian stres digunakan untuk mengidentifikasi potensi risiko dan berbeda dari pengukuran risiko sistematis.
Teks, gambar, bagan, dll. Copilot tersebut dalam output Bing sebagai respons atas perintah. Sinonim untuk "respons" mencakup "penyelesaian," "generasi," dan "jawaban." Misalnya, Bing dapat memberikan respons berikut terhadap perintah yang kami gunakan dalam definisi 'prompt' di atas:
"Selamat atas hari jadimu! Ada banyak tempat yang dapat Anda kunjungi dengan penerbangan 3 jam dari London Heathrow. Menurut salah satu sumber, beberapa pelarian akhir pekan dalam waktu tiga jam dengan pesawat dari London adalah Bilbao, Copenhagen, Reykjavik, dan Stockholm 1, 2. Sumber lain menyarankan beberapa tempat terbaik untuk pergi di Eropa pada bulan September adalah Krakow, Florence, dan Lisbon 3, 4. Anda juga dapat memeriksa penerbangan langsung dari London Heathrow ke berbagai tujuan dan melihat apa yang menarik bagi Anda 5. Saya harap Anda memiliki perjalanan yang indah!”
Penggunaan yang dimaksudkan dan pengalaman AI baru
Copilot dalam penggunaan Bing yang dimaksudkan adalah untuk menghubungkan pengguna dengan hasil pencarian yang relevan, meninjau hasil dari web untuk menemukan dan meringkas jawaban yang dicari pengguna, membantu pengguna memperbaiki riset mereka untuk mendapatkan jawaban dengan pengalaman obrolan, dan memicu kreativitas dengan membantu pengguna membuat konten. Copilot dalam pengalaman AI generatif Bing di bawah ini mendukung tujuan menjadi kopilot yang didukung AI untuk web.
Ringkasan. Saat pengguna mengirimkan kueri pencarian di Copilot di Bing, sistem Bing memproses kueri, melakukan satu atau beberapa pencarian web, dan menggunakan hasil pencarian web teratas untuk menghasilkan ringkasan informasi untuk disajikan kepada pengguna. Ringkasan ini mencakup referensi untuk membantu pengguna melihat dan dengan mudah mengakses hasil pencarian yang digunakan untuk membantu membumikan ringkasan. Ringkasan dapat muncul di sisi kanan halaman hasil pencarian dan dalam pengalaman obrolan.
Pengalaman obrolan. Selain ringkasan, pengguna dapat mengobrol dengan Copilot di sistem Bing melalui input teks, gambar, atau suara, mengajukan pertanyaan tindak lanjut untuk mengklarifikasi pencarian dan menemukan informasi baru, serta mengirimkan perintah untuk menghasilkan konten kreatif. Referensi juga disertakan dalam pengalaman obrolan saat Copilot di Bing meringkas hasil pencarian dalam respons.
Generasi konten kreatif. Dalam pengalaman obrolan dan di halaman pencarian, pengguna dapat membuat puisi, lelucon, cerita, gambar, dan konten lainnya dengan bantuan Dari Copilot di Bing. Gambar dibuat oleh Designer (mantan Image Creator Bing), dan pengguna dapat mengakses fitur melalui laman Designer serta halaman Copilot.
Bagaimana cara kerja Copilot di Bing?
Dengan Copilot di Bing, kami telah mengembangkan pendekatan inovatif untuk menghadirkan LLM canggih ke pencarian web. Saat pengguna memasukkan perintah di Copilot di Bing, perintah, riwayat percakapan terbaru, metaprompt, dan hasil pencarian teratas dikirim sebagai input ke LLM. Model menghasilkan respons menggunakan perintah pengguna dan riwayat percakapan terbaru untuk men kontekstualisasi permintaan, metaprompt untuk menyelaraskan respons dengan Prinsip AI Microsoft dan ekspektasi pengguna, dan hasil pencarian untuk respons dasar dalam konten berperingkat tinggi yang sudah ada dari web.
Respons disajikan kepada pengguna dalam beberapa format berbeda, seperti tautan tradisional ke konten web, ringkasan yang dihasilkan AI, gambar, dan respons obrolan. Ringkasan dan respons obrolan yang mengandalkan hasil pencarian web akan menyertakan referensi dan bagian "Pelajari selengkapnya" di bawah respons, dengan tautan ke hasil pencarian yang digunakan untuk membumikan respons. Pengguna dapat mengklik tautan ini untuk mempelajari selengkapnya tentang topik dan informasi yang digunakan untuk membumikan ringkasan atau respons obrolan.
Dalam pengalaman Copilot, pengguna bisa melakukan pencarian web secara percakapanal dengan menambahkan konteks ke perintah mereka dan berinteraksi dengan respons sistem untuk menentukan minat pencarian mereka lebih lanjut. Misalnya, pengguna mungkin mengajukan pertanyaan tindak lanjut, meminta informasi klarifikasi tambahan, atau merespons sistem dengan cara percakapan. Dalam pengalaman obrolan, pengguna juga dapat memilih respons dari saran yang telah ditulis sebelumnya, yang kami sebut saran obrolan. Tombol ini muncul setelah setiap respons dari Copilot dan memberikan saran perintah untuk melanjutkan percakapan dalam pengalaman obrolan. Saran obrolan juga muncul bersama konten ringkasan di halaman hasil pencarian sebagai titik entri untuk pengalaman obrolan.
Copilot di Bing juga memungkinkan pengguna untuk membuat cerita, puisi, lirik lagu, dan gambar dengan bantuan dari Bing. Ketika Copilot di Bing mendeteksi tujuan pengguna untuk menghasilkan konten kreatif (misalnya, perintah dimulai dengan "tulis saya a ..."), sistem akan, dalam banyak kasus, menghasilkan konten responsif terhadap perintah pengguna. Demikian pula, ketika Copilot di Bing mendeteksi tujuan pengguna untuk menghasilkan gambar (misalnya, perintah dimulai dengan "menggambar saya ..."), sistem akan, dalam banyak kasus, menghasilkan gambar responsif terhadap perintah pengguna. Dalam Search Visual dalam pengalaman Obrolan, dengan gambar yang diambil oleh kamera pengguna, yang diunggah dari perangkat pengguna, atau ditautkan dari web, pengguna dapat meminta Copilot di Bing untuk memahami konteks, menerjemahkan, dan menjawab pertanyaan tentang gambar tersebut. Pengguna juga dapat mengunggah file mereka ke Copilot untuk menerjemahkan, mengonversi, memproses, atau menghitung informasi dari mereka. Dalam pengalaman Microsoft Designer yang dapat diakses pengguna melalui Copilot di Bing, pengguna tidak hanya dapat menghasilkan gambar menggunakan perintah, tetapi juga mengubah ukuran atau memulihkannya, atau mengedit seperti latar belakang yang buram atau membuat warna lebih cerah.
Pengguna dengan akun Microsoft (MSA) kini juga memiliki opsi untuk berlangganan Copilot Pro yang menawarkan pengalaman yang disempurnakan, termasuk kinerja yang dipercepat, pembuatan gambar AI yang lebih cepat, dan kemampuan untuk membuat GPL Copilot Anda sendiri. Copilot Pro saat ini tersedia di negara terbatas, dan kami berencana untuk segera menyediakan Copilot Pro di lebih banyak pasar.
Dalam pengalaman Copilot, pengguna dapat mengakses GPL Copilot. GPT Copilot, seperti Designer GPT, adalah versi kustom Microsoft Copilot pada topik yang menarik bagi Anda, seperti kebugaran, perjalanan, dan memasak, yang dapat membantu mengubah ide yang tidak jelas atau umum menjadi perintah yang lebih spesifik dengan output termasuk teks dan gambar. Di Copilot pengguna dapat melihat GPL Copilot yang tersedia, dan pengguna dengan akun Copilot Pro akan segera memiliki akses ke Copilot GPT Builder, fitur yang memungkinkan pengguna untuk membuat dan mengonfigurasi GPT Copilot kustom. Mitigasi AI bertanggung jawab yang disebutkan di atas untuk Copilot di Bing berlaku untuk GPL Copilot.
Untuk mempelajari selengkapnya tentang cara kerja GPT Copilot Pro dan Copilot, silakan kunjungi di sini.
Copilot di Bing berusaha untuk memberikan hasil pencarian yang beragam dan komprehensif dengan komitmennya untuk membebaskan dan membuka akses ke informasi. Pada saat yang sama, upaya kualitas produk kami mencakup upaya untuk menghindari mempromosikan konten yang berpotensi berbahaya bagi pengguna secara tidak sengaja. Informasi selengkapnya tentang bagaimana Bing menetapkan peringkat konten, termasuk cara menentukan relevansi serta kualitas dan kredibilitas halaman web, tersedia dalam "Panduan Webmaster Bing." Informasi selengkapnya tentang prinsip moderasi konten Bing tersedia dalam "Bagaimana Bing memberikan hasil pencarian."
Dalam pengalaman Copilot di Windows, Copilot di Bing dapat bekerja dengan sistem operasi Windows untuk menyediakan keterampilan khusus Windows seperti mengubah tema atau latar belakang pengguna, dan mengubah pengaturan seperti audio, Bluetooth, dan jaringan. Pengalaman ini memungkinkan pengguna untuk mengonfigurasi pengaturan mereka dan meningkatkan pengalaman pengguna mereka menggunakan perintah bahasa alami ke LLM. Fungsionalitas khusus aplikasi juga dapat disediakan dari plugin aplikasi pihak ketiga. Ini bisa mengotomatisasi tugas berulang dan mencapai efisiensi pengguna yang lebih besar. Karena LLM kadang-kadang dapat membuat kesalahan, perintah konfirmasi pengguna yang sesuai disediakan sehingga pengguna adalah arbiter akhir perubahan yang dapat dilakukan.
Mengidentifikasi, mengukur, dan memitigasi Risiko
Seperti teknologi transformasional lainnya, memanfaatkan manfaat AI tidak bebas risiko, dan bagian inti dari program AI Bertanggung Jawab Microsoft dirancang untuk mengidentifikasi potensi risiko, mengukur kecekatan mereka untuk terjadi, dan membangun mitigasi untuk mengatasinya. Dipandu oleh Prinsip AI dan Standar AI Yang Bertanggung Jawab kami, kami berusaha mengidentifikasi, mengukur, dan memitigasi potensi risiko dan penyalahgunaan Copilot di Bing sambil mengamankan penggunaan transformatif dan menguntungkan yang diberikan pengalaman baru. Pada bagian di bawah ini kami menjelaskan pendekatan berulang kami untuk mengidentifikasi, mengukur, dan memitigasi potensi risiko.
Pada tingkat model, pekerjaan kami dimulai dengan analisis eksplorasi GPT-4 pada akhir musim panas 2022. Ini termasuk melakukan pengujian tim merah ekstensif bekerja sama dengan OpenAI. Pengujian ini dirancang untuk menilai bagaimana teknologi terbaru akan bekerja tanpa perlindungan tambahan yang diterapkan padanya. Tujuan khusus kami saat ini adalah untuk menghasilkan respons berbahaya, memunculkan jalan potensial untuk penyalahgunaan, dan mengidentifikasi kemampuan dan batasan. Gabungan pembelajaran kami di OpenAI dan Microsoft berkontribusi pada kemajuan pengembangan model dan, bagi kami di Microsoft, menginformasikan pemahaman kami tentang risiko dan berkontribusi pada strategi mitigasi awal untuk Copilot di Bing.
Selain pengujian tim merah tingkat model, tim ahli multidisiplin melakukan banyak pengujian tim merah tingkat aplikasi pada Copilot dalam pengalaman Bing AI sebelum membuatnya tersedia secara publik dalam pratinjau rilis terbatas kami. Proses ini membantu kami lebih memahami bagaimana sistem dapat dieksploitasi oleh aktor adversarial dan meningkatkan mitigasi kami. Penguji stres non-adversarial juga secara ekstensif mengevaluasi fitur Bing baru untuk kekurangan dan kerentanan. Pasca rilis, pengalaman AI baru di Bing diintegrasikan ke dalam infrastruktur pengukuran dan pengujian produksi organisasi teknik Bing yang sudah ada. Misalnya, penguji tim merah dari berbagai wilayah dan latar belakang terus-menerus dan secara sistematis berusaha mengkompromikan sistem, dan temuan mereka digunakan untuk memperluas kumpulan data yang digunakan Bing untuk menyempurnakan sistem.
Pengujian tim merah dan pengujian stres dapat memunculkan risiko tertentu, tetapi dalam produksi pengguna akan memiliki jutaan jenis percakapan yang berbeda dengan Copilot di Bing. Selain itu, percakapan bersifat multi-belokan dan kontekstual, dan mengidentifikasi konten berbahaya dalam percakapan adalah tugas yang kompleks. Untuk lebih memahami dan mengatasi potensi risiko dalam Copilot dalam pengalaman Bing AI, kami mengembangkan metrik AI bertanggung jawab tambahan khusus untuk pengalaman AI baru tersebut untuk mengukur potensi risiko seperti jailbreak, konten berbahaya, dan konten yang tidak teralihkan. Kami juga mengaktifkan pengukuran dalam skala besar melalui saluran pengukuran otomatis sebagian. Setiap kali perubahan produk, mitigasi yang sudah ada diperbarui, atau mitigasi baru diusulkan, kami memperbarui saluran pengukuran kami untuk menilai kinerja produk dan metrik AI yang bertanggung jawab.
Sebagai contoh ilustratif, pipeline pengukuran otomatis sebagian yang diperbarui untuk konten berbahaya mencakup dua inovasi utama: simulasi percakapan dan anotasi percakapan otomatis yang diverifikasi manusia. Pertama, pakar AI yang bertanggung jawab membuat templat untuk merekam struktur dan konten percakapan yang dapat mengakibatkan berbagai tipe konten berbahaya. Templat ini kemudian diberikan kepada agen percakapan yang berinteraksi sebagai pengguna hipotesis dengan Copilot di Bing, menghasilkan percakapan yang disimulasikan. Untuk mengidentifikasi apakah percakapan yang disimulasikan ini berisi konten berbahaya, kami mengambil panduan yang biasanya digunakan oleh ahli bahasa untuk memberi label data dan mengubahnya untuk digunakan oleh GPT-4 untuk melabeli percakapan sesuai skala, menyempurnakan pedoman sampai ada kesepakatan yang signifikan antara percakapan berlabel model dan percakapan berlabel manusia. Akhirnya, kami menggunakan percakapan berlabel model untuk menghitung metrik AI bertanggung jawab yang menangkap efektivitas Copilot di Bing dalam memitigasi konten berbahaya.
Saluran pengukuran kami memungkinkan kami melakukan pengukuran dengan cepat untuk potensi risiko dalam skala besar. Saat kami mengidentifikasi masalah baru melalui periode pratinjau dan pengujian tim merah yang sedang berlangsung, kami terus memperluas rangkaian pengukuran untuk menilai risiko tambahan.
Karena kami mengidentifikasi potensi risiko dan penyalahgunaan melalui proses seperti pengujian tim merah dan pengujian stres serta mengukurnya dengan pendekatan inovatif yang dijelaskan di atas, kami mengembangkan mitigasi tambahan untuk yang digunakan untuk pencarian tradisional. Di bawah ini, kami menjelaskan beberapa mitigasi tersebut. Kami akan terus memantau Copilot dalam pengalaman Bing AI untuk meningkatkan kinerja dan mitigasi produk.
Rilis bertahap, evaluasi berkelanjutan. Kami berkomitmen untuk mempelajari dan meningkatkan pendekatan AI yang bertanggung jawab secara terus menerus seiring berkembangnya teknologi dan perilaku pengguna kami. Strategi rilis tambahan kami telah menjadi bagian inti dari bagaimana kami memindahkan teknologi kami dengan aman dari laboratorium ke dunia, dan kami berkomitmen untuk proses yang disengaja dan bijaksata untuk mengamankan manfaat Copilot di Bing. Membatasi jumlah orang yang memiliki akses selama periode pratinjau telah memungkinkan kami untuk mengetahui bagaimana orang-orang menggunakan Copilot di Bing, termasuk bagaimana orang-orang dapat menyalahgunakannya, sehingga kami dapat mencoba mengurangi masalah yang muncul sebelum rilis yang lebih luas. Misalnya, kami mengharuskan pengguna untuk mengautentikasi menggunakan akun Microsoft mereka sebelum mengakses pengalaman Bing yang sepenuhnya baru. Pengguna yang tidak diaauthenticated hanya dapat mengakses pratinjau terbatas pengalaman. Langkah-langkah ini mencegah penyalahgunaan dan membantu kami untuk (sebagaimana diperlukan) mengambil tindakan yang tepat dalam menanggapi pelanggaran Kode Etik. Kami membuat perubahan pada Copilot di Bing setiap hari untuk meningkatkan kinerja produk, meningkatkan mitigasi yang sudah ada, dan menerapkan mitigasi baru sebagai respons terhadap pembelajaran kami selama periode pratinjau.
Grounding dalam hasil pencarian. Seperti yang disebutkan di atas, Copilot di Bing dirancang untuk memberikan respons yang didukung oleh informasi dalam hasil pencarian web saat pengguna mencari informasi. Misalnya, sistem disediakan dengan teks dari hasil pencarian teratas dan instruksi melalui metaprompt untuk membumikan responsnya. Namun, dalam meringkas konten dari web, Copilot di Bing dapat menyertakan informasi dalam responsnya yang tidak ada dalam sumber inputnya. Dengan kata lain, hasilnya mungkin tidak tertanda. Evaluasi awal kami menunjukkan bahwa hasil yang tidak teralihkan dalam obrolan mungkin lebih lazim untuk jenis perintah atau topik tertentu daripada yang lain, seperti meminta penghitungan matematika, informasi keuangan atau pasar (misalnya, pendapatan perusahaan, data kinerja saham), dan informasi seperti tanggal kejadian yang tepat atau harga item tertentu. Pengguna harus selalu berhati-hati dan menggunakan penilaian terbaik mereka saat menampilkan hasil pencarian yang diringkas, baik di halaman hasil pencarian maupun dalam pengalaman obrolan. Kami telah mengambil beberapa langkah untuk mengurangi risiko bahwa pengguna mungkin terlalu bergantung pada konten yang dihasilkan tanpa kandas dalam skenario ringkasan dan pengalaman obrolan. Misalnya, respons dalam Copilot di Bing yang didasarkan pada hasil pencarian menyertakan referensi ke situs web sumber bagi pengguna untuk memverifikasi respons dan mempelajari selengkapnya. Pengguna juga diberi pemberitahuan eksplisit bahwa mereka berinteraksi dengan sistem AI dan disarankan untuk memeriksa materi sumber hasil web untuk membantu mereka menggunakan penilaian terbaik mereka.
Pengklasifikasi berbasis AI dan metaprompting untuk mengurangi potensi risiko atau penyalahgunaan. Penggunaan LLM dapat menghasilkan konten bermasalah yang dapat mengakibatkan risiko atau penyalahgunaan. Contoh dapat mencakup output yang terkait dengan bahaya diri sendiri, kekerasan, konten grafis, kekayaan intelektual, informasi yang tidak akurat, ucapan penuh kebencian, atau teks yang dapat berkaitan dengan aktivitas ilegal. Pengklasifikasi dan metaprompting adalah dua contoh mitigasi yang telah diterapkan dalam Copilot di Bing untuk membantu mengurangi risiko jenis konten ini. Pengklasifikasi mengklasifikasikan teks untuk menandai berbagai jenis konten yang berpotensi berbahaya dalam kueri pencarian, perintah obrolan, atau respons yang dihasilkan. Bing menggunakan pengklasifikasi berbasis AI dan filter konten, yang berlaku untuk semua hasil pencarian dan fitur yang relevan; kami merancang pengklasifikasi dan filter konten tambahan khususnya untuk mengatasi kemungkinan risiko yang dibesarkan oleh Copilot dalam fitur Bing. Bendera mengarah pada potensi mitigasi, seperti tidak mengembalikan konten yang dihasilkan kepada pengguna, mengalihkan pengguna ke topik lain, atau mengalihkan pengguna ke pencarian tradisional. Metaprompting melibatkan instruksi pada model untuk memandu perilakunya, termasuk agar sistem bertingkah sesuai dengan Prinsip AI dan ekspektasi pengguna Microsoft. Misalnya, metaprompt mungkin menyertakan baris seperti "berkomunikasi dalam bahasa pilihan pengguna."
Melindungi privasi dalam Search Visual di Copilot di Bing. Ketika pengguna mengunggah gambar sebagai bagian dari perintah obrolan mereka, Copilot di Bing akan menggunakan teknologi yang mengaburkan wajah sebelum mengirimkan gambar ke model AI. Wajah kabur digunakan untuk melindungi privasi individu dalam gambar. Teknologi yang mengaburkan wajah bergantung pada petunjuk konteks untuk menentukan tempat untuk mengaburkan dan akan berusaha mengaburkan semua wajah. Dengan wajah yang kabur, model AI dapat membandingkan gambar yang diinput dengan gambar yang tersedia untuk umum di Internet. Sebagai hasilnya, misalnya, Copilot di Bing mungkin dapat mengidentifikasi pemain basket terkenal dari foto pemain itu di lapangan basket dengan membuat representasi numerik yang mencerminkan nomor jersey pemain, warna jersey, kehadiran lingkaran bola basket, dll. Copilot di Bing tidak menyimpan representasi numerik orang dari gambar yang diunggah dan tidak membagikannya dengan pihak ketiga. Copilot di Bing menggunakan representasi numerik gambar yang diunggah pengguna hanya untuk tujuan merespons perintah pengguna, lalu dihapus dalam waktu 30 hari setelah obrolan berakhir.
Jika pengguna meminta Copilot di Bing untuk informasi tentang gambar yang diunggah, respons obrolan mungkin mencerminkan dampak kabur wajah pada kemampuan model untuk memberikan informasi tentang gambar yang diunggah. Misalnya, Copilot di Bing dapat menggambarkan seseorang sebagai memiliki wajah kabur.
Membatasi drift percakapan. Selama periode pratinjau, kami mempelajari bahwa sesi obrolan yang sangat panjang dapat menghasilkan respons yang berulang, tidak membantu, atau tidak konsisten dengan Copilot dalam nada yang dimaksudkan Bing. Untuk mengatasi drift percakapan ini, kami membatasi jumlah belokan (pertukaran yang berisi pertanyaan pengguna dan balasan dari Copilot di Bing) per sesi obrolan. Kami terus mengevaluasi pendekatan tambahan untuk mengurangi masalah ini.
Pengayaan yang cepat. Dalam beberapa kasus, perintah pengguna mungkin ambigu. Ketika ini terjadi, Copilot di Bing dapat menggunakan LLM untuk membantu menyusun detail selengkapnya dalam perintah untuk membantu memastikan pengguna mendapatkan respons yang mereka cari. Pengayaan prompt tersebut tidak bergantung pada pengetahuan pengguna atau pencarian sebelumnya, tetapi pada model AI. Kueri yang direvisi ini akan terlihat dalam riwayat obrolan pengguna dan, seperti pencarian lainnya, dapat dihapus menggunakan kontrol dalam produk.
Intervensi desain dan pengalaman pengguna yang berpusat pada pengguna. Desain dan pengalaman pengguna yang berpusat pada pengguna adalah aspek penting dari pendekatan Microsoft terhadap AI yang bertanggung jawab. Tujuannya adalah untuk menakar desain produk dalam kebutuhan dan ekspektasi pengguna. Saat pengguna berinteraksi dengan Copilot di Bing untuk pertama kalinya, kami menawarkan berbagai titik sentuh yang dirancang untuk membantu mereka memahami kemampuan sistem, mengungkapkan kepada mereka bahwa Copilot di Bing didukung oleh AI, dan mengkomunikasikan batasan. Pengalaman ini dirancang dengan cara ini untuk membantu pengguna memaksimalkan Copilot di Bing dan meminimalkan risiko overreliance. Elemen pengalaman ini juga membantu pengguna lebih memahami Copilot di Bing dan interaksi mereka dengannya. Ini termasuk saran obrolan khusus untuk AI yang bertanggung jawab (misalnya, bagaimana Bing menggunakan AI? Mengapa Copilot di Bing tidak merespons beberapa topik?), penjelasan tentang batasan, cara pengguna bisa mempelajari selengkapnya tentang cara kerja sistem dan melaporkan umpan balik, dan dengan mudah menavigasi referensi yang muncul dalam respons untuk memperlihatkan hasil dan halaman di mana respons dialihkan kepada pengguna.
Pengungkapan AI. Copilot di Bing menyediakan beberapa titik sentuh untuk pengungkapan AI yang bermakna di mana pengguna diberi tahu bahwa mereka berinteraksi dengan sistem AI serta kesempatan untuk mempelajari selengkapnya tentang Copilot di Bing. Memberdayakan pengguna dengan pengetahuan ini dapat membantu mereka menghindari mengandalkan AI secara berlebihan dan mempelajari tentang kekuatan dan batasan sistem.
Pembuktian media.Microsoft Designer telah mengaktifkan fitur "Kredensial Konten", yang menggunakan metode kriptografis untuk menandai sumber, atau "kebuktian," dari semua gambar yang dihasilkan AI yang dibuat pada Designer. Fitur marka air digital yang tidak terlihat memperlihatkan sumber, waktu, dan tanggal pembuatan asli, dan informasi ini tidak dapat diubah. Teknologi ini menggunakan standar yang ditetapkan oleh Koalisi untuk Konten dan Keaslian (C2PA) untuk menambahkan lapisan kepercayaan dan transparansi ekstra untuk gambar yang dihasilkan AI. Microsoft adalah salah satu pendiri C2PA dan telah berkontribusi dengan teknologi pembuktian konten digital inti.
Ketentuan Penggunaan dan Kode Etik. Sumber daya ini mengatur penggunaan Copilot di Bing. Pengguna harus mematuhi Ketentuan Penggunaan dan Kode Etik, yang, antara lain, menginformasikan mereka tentang penggunaan yang diizinkan dan tidak diizinkan dan konsekuensi dari ketentuan yang melanggar. Ketentuan Penggunaan juga menyediakan pengungkapan tambahan bagi pengguna dan berfungsi sebagai referensi praktis bagi pengguna untuk mempelajari tentang Copilot di Bing.
Operasi dan respons cepat. Kami juga menggunakan Copilot dalam proses pemantauan dan operasional Bing yang sedang berlangsung untuk mengatasi ketika Copilot di Bing menerima sinyal, atau menerima laporan, menunjukkan kemungkinan penyalahgunaan atau pelanggaran Ketentuan Penggunaan atau Kode Etik.
Umpan balik, pemantauan, dan pengawasan. Pengalaman Copilot di Bing dibuat pada perkakas yang sudah ada yang memungkinkan pengguna untuk mengirimkan tanggapan dan melaporkan masalah, yang ditinjau oleh tim operasi Microsoft. Proses operasional Bing juga telah diperluas untuk mengakomodasi fitur dalam Pengalaman Copilot di Bing, misalnya, memperbarui halaman Laporkan Kekhawatiran untuk menyertakan tipe konten baru yang dihasilkan pengguna dengan bantuan model.
Pendekatan kami untuk mengidentifikasi, mengukur, dan memitigasi risiko akan terus berkembang selagi kami mempelajari selengkapnya, dan kami telah membuat penyempurnaan berdasarkan tanggapan yang dikumpulkan selama periode pratinjau.
Deteksi konten otomatis. Ketika pengguna mengunggah gambar sebagai bagian dari perintah obrolan mereka, Copilot di Bing menyebarkan alat untuk mendeteksi eksploitasi seksual anak dan penyalahgunaan gambar (CSEAI), terutama teknologi pencocokan hash PhotoDNA. Microsoft mengembangkan PhotoDNA untuk membantu menemukan duplikat CSEAI yang diketahui. Microsoft melaporkan semua CSEAI yang jelas ke National Center for Missing and Exploited Children (NCMEC), sebagaimana diwajibkan oleh hukum AS. Ketika pengguna mengunggah file untuk dianalisis atau diproses, Copilot menyebarkan pemindaian otomatis untuk mendeteksi konten yang dapat mengakibatkan risiko atau penyalahgunaan, seperti teks yang dapat berkaitan dengan aktivitas ilegal atau kode berbahaya.
Melindungi privasi
Keyakinan Microsoft yang telah lama bahwa privasi adalah hak asasi manusia yang mendasar telah menginformasikan setiap tahap pengembangan microsoft dan penyebaran Copilot dalam pengalaman Bing. Komitmen kami untuk melindungi privasi semua pengguna, termasuk dengan menyediakan transparansi dan kontrol individu atas data mereka dan mengintegrasikan privasi berdasarkan desain melalui minimasi data dan batasan tujuan, menjadi dasar bagi Copilot di Bing. Selagi kami mengembangkan pendekatan kami untuk menyediakan Copilot dalam pengalaman AI generatif Bing, kami akan terus mengeksplorasi cara terbaik untuk melindungi privasi. Dokumen ini akan diperbarui saat kami melakukannya. Informasi selengkapnya tentang bagaimana Microsoft melindungi privasi pengguna kami tersedia di Pernyataan Privasi Microsoft.
Dalam pengalaman Copilot di Windows, keterampilan Windows mungkin, sebagai bagian dari fungsionalitas mereka, berbagi informasi pengguna dengan percakapan obrolan. Ini tunduk pada persetujuan pengguna dan perintah UI ditampilkan untuk mengonfirmasi maksud pengguna sebelum informasi pengguna dibagikan dengan percakapan obrolan.
Microsoft terus mempertimbangkan kebutuhan anak-anak dan anak muda sebagai bagian dari penilaian risiko fitur AI generatif baru di Copilot di Bing. Semua akun anak Microsoft yang mengidentifikasi pengguna berusia di bawah 13 tahun atau sebagaimana ditentukan lain di bawah hukum setempat tidak dapat masuk untuk mengakses pengalaman Bing yang sepenuhnya baru.
Seperti yang dijelaskan di atas, untuk semua pengguna, kami telah menerapkan pengamanan yang mengurangi konten yang berpotensi membahayakan. Dalam Copilot di Bing, hasil diatur sebagai dalam Mode Ketat Bing SafeSearch, yang memiliki tingkat perlindungan keamanan tertinggi dalam pencarian utama Bing, sehingga mencegah pengguna, termasuk pengguna remaja, agar tidak terpapar konten yang berpotensi berbahaya. Selain informasi yang telah kami sediakan dalam dokumen ini dan di Tanya Jawab Umum kami mengenai fitur obrolan, informasi selengkapnya tentang cara kerja Copilot di Bing untuk menghindari respons dengan konten ofensif yang tidak diharapkan dalam hasil pencarian tersedia di sini.
Microsoft telah berkomitmen untuk tidak memberikan iklan yang dipersonalisasi berdasarkan perilaku online kepada anak-anak yang melahirkan di akun Microsoft mereka mengidentifikasi mereka di bawah 18 tahun. Perlindungan penting ini akan diperluas untuk iklan di Copilot di fitur Bing. Pengguna mungkin melihat iklan kontekstual berdasarkan kueri atau perintah yang digunakan untuk berinteraksi dengan Bing.
Untuk membuka potensi transformatif AI generatif, kita harus membangun kepercayaan pada teknologi melalui pemberdayaan individu untuk memahami bagaimana data mereka digunakan dan memberikan mereka pilihan dan kontrol yang bermakna atas data mereka. Copilot di Bing dirancang untuk memprioritaskan badan manusia, melalui penyediaan informasi tentang cara kerja produk serta keterbatasannya, dan melalui memperluas pilihan dan kontrol konsumen kami yang kuat ke Copilot dalam fitur Bing.
Pernyataan Privasi Microsoft menyediakan informasi tentang praktik privasi transparan kami untuk melindungi pelanggan kami, dan menetapkan informasi tentang kontrol yang memberi pengguna kami kemampuan untuk melihat dan mengelola data pribadi mereka. Untuk membantu memastikan bahwa pengguna memiliki informasi yang mereka perlukan saat berinteraksi dengan fitur percakapan baru Bing, pengungkapan dalam produk memberi tahu pengguna bahwa mereka terlibat dengan produk AI, dan kami menyediakan tautan ke Tanya Jawab Umum dan penjelasan lebih lanjut tentang cara kerja fitur ini. Microsoft akan terus mendengarkan umpan balik pengguna dan akan menambahkan detail lebih lanjut tentang fitur percakapan Bing yang sesuai untuk mendukung pemahaman tentang cara kerja produk.
Microsoft juga menyediakan alat canggih kepada penggunanya untuk menggunakan hak mereka atas data pribadi mereka. Untuk data yang dikumpulkan oleh Copilot di Bing, termasuk melalui kueri dan perintah pengguna, Dasbor Privasi Microsoft menyediakan alat yang diautentikasi (masuk) kepada pengguna untuk menggunakan hak subjek data mereka, termasuk dengan menyediakan kemampuan untuk menampilkan, mengekspor, dan menghapus riwayat percakapan yang disimpan kepada pengguna. Microsoft terus mengambil umpan balik tentang bagaimana mereka ingin mengelola pengalaman Bing baru mereka, termasuk melalui penggunaan pengalaman manajemen data dalam konteks.
Kopilot di Bing juga menghormati permintaan di bawah hak Eropa untuk dilupakan, mengikuti proses yang dikembangkan dan disempurnakan microsoft untuk fungsionalitas pencarian tradisional Bing. Semua pengguna dapat melaporkan kekhawatiran terkait konten dan respons yang dihasilkan di sini, dan pengguna eropa kami dapat menggunakan formulir ini untuk mengirimkan permintaan untuk memblokir hasil pencarian di Eropa di bawah hak untuk dilupakan.
Copilot di Bing akan menghormati pilihan privasi pengguna, termasuk yang sebelumnya telah dibuat di Bing, seperti persetujuan untuk pengumpulan dan penggunaan data yang diminta melalui banner cookie dan kontrol yang tersedia di Dasbor Privasi Microsoft. Untuk membantu memungkinkan otonomi pengguna dan agensi dalam membuat keputusan yang diinformasikan, kami telah menggunakan proses peninjauan internal kami untuk memeriksa dengan cermat bagaimana pilihan disajikan kepada pengguna.
Selain kontrol yang tersedia melalui Dasbor Privasi Microsoft, yang memungkinkan pengguna untuk menampilkan, mengekspor, dan menghapus riwayat pencarian mereka, termasuk komponen riwayat Obrolan mereka, pengguna terautentikasi yang telah mengaktifkan fitur Riwayat obrolan dalam produk memiliki kemampuan untuk menampilkan, mengakses, dan mengunduh riwayat obrolan melalui kontrol dalam produk. Pengguna dapat menghapus obrolan tertentu dari Riwayat obrolan atau menonaktifkan fungsionalitas riwayat obrolan sepenuhnya kapan saja dengan mengunjungi halaman Pengaturan Bing. Pengguna juga dapat memilih apakah akan mengizinkan personalisasi untuk mengakses pengalaman yang lebih disesuaikan dengan jawaban yang dipersonalisasi. Pengguna dapat menolak dan menolak personalisasi kapan saja di Pengaturan Obrolan di halaman Pengaturan Bing. Menghapus obrolan tertentu dari Riwayat obrolan mencegahnya digunakan untuk personalisasi.
Informasi selengkapnya tentang Riwayat obrolan dan personalisasi disediakan untuk pengguna dalam Tanya Jawab Umum Copilot di Bing.
Kopilot di Bing dibuat dengan mempertimbangkan privasi, sehingga data pribadi dikumpulkan dan hanya digunakan sesuai kebutuhan dan dipertahankan tidak lagi diperlukan. Seperti disebutkan di atas, Search Visual dalam Fitur Copilot di Bing menyebarkan mekanisme yang mengaburkan wajah dalam gambar pada saat diunggah oleh pengguna, sehingga gambar wajah tidak diproses atau disimpan lebih lanjut. Informasi selengkapnya tentang data pribadi yang dikumpulkan Bing, bagaimana data tersebut digunakan, dan bagaimana data disimpan dan dihapus tersedia dalam Pernyataan Privasi Microsoft, yang juga menyediakan informasi tentang fitur obrolan baru Bing.
Copilot di Bing memiliki kebijakan penyimpanan dan penghapusan data untuk membantu memastikan bahwa data pribadi yang dikumpulkan melalui fitur obrolan Bing hanya disimpan selama diperlukan.
Kami akan terus mempelajari dan mengembangkan pendekatan kami dalam menyediakan Copilot di Bing, dan saat kami melakukannya, kami akan terus bekerja lintas disiplin ilmu untuk menyelaraskan inovasi AI kami dengan nilai-nilai manusia dan hak-hak mendasar, termasuk melindungi pengguna muda dan privasi.
Copilot dengan perlindungan data komersial
Copilot dengan perlindungan data komersial, sebelumnya dikenal sebagai Bing Chat Enterprise ("BCE"), dirilis oleh Microsoft dalam pratinjau publik gratis pada Juli 2023 sebagai add-on gratis untuk pelanggan M365 tertentu. Copilot dengan perlindungan data komersial adalah pengalaman pencarian web yang disempurnakan AI untuk pengguna akhir perusahaan.
Seperti halnya Copilot di Bing, ketika Copilot dengan pengguna akhir perlindungan data komersial memasukkan perintah ke antarmuka, perintah, percakapan langsung, hasil pencarian teratas, dan metaprompt dikirim sebagai input ke LLM. Model ini menghasilkan respons menggunakan riwayat percakapan yang cepat dan cepat untuk kontekstualisasi permintaan, metaprompt untuk menyelaraskan respons dengan Prinsip AI Microsoft dan ekspektasi pengguna, dan hasil pencarian untuk respons dasar dalam konten berperingkat tinggi yang sudah ada dari web. Ini berfungsi dengan cara yang sama seperti Copilot di Bing seperti yang dijelaskan di atas dalam dokumen ini, dengan pengecualian bahwa Copilot dengan proteksi data komersial hanya bergantung pada riwayat percakapan langsung (bukan riwayat percakapan terbaru) karena riwayat obrolan yang disimpan tidak menjadi fitur yang saat ini didukung. Designer dan Visual Search kini tersedia dalam versi ini.
Seperti teknologi transformasional lainnya, memanfaatkan manfaat AI tidak bebas risiko, dan bagian inti dari program AI Bertanggung Jawab Microsoft dirancang untuk mengidentifikasi potensi risiko, mengukur kecekatan mereka untuk terjadi, dan membangun mitigasi untuk mengatasinya. Sekali lagi, deskripsi di atas tentang upaya Microsoft untuk mengidentifikasi, mengukur, dan memitigasi potensi risiko bagi Copilot di Bing juga berlaku untuk versi ini, dengan beberapa klarifikasi tentang mitigasi yang dijelaskan di bawah ini:
Rilis bertahap, evaluasi berkelanjutan. Sama seperti Copilot Bing, untuk Copilot dengan perlindungan data komersial kami juga telah mengambil pendekatan rilis bertahap. Pada 18 Juli 2023, Copilot dengan perlindungan data komersial tersedia sebagai pratinjau gratis bagi pelanggan perusahaan yang memenuhi syarat dengan akun M365 tertentu untuk diaktifkan bagi pengguna akhir perusahaan mereka. Tiga puluh (30) hari setelah memberi tahu pelanggan perusahaan yang memenuhi syarat, Copilot dengan perlindungan data komersial menjadi "default on" bagi pelanggan yang sama. Kopilot dengan perlindungan data komersial juga telah tersedia untuk akun M365 pengajar pendidikan tertentu. Copilot dengan perlindungan data komersial menjadi tersedia secara umum untuk pelanggan perusahaan tertentu pada 1 Desember 2023. Di masa mendatang, kami berencana untuk memperluas akses ke Copilot dengan perlindungan data komersial kepada pengguna yang lebih Microsoft Entra ID.
Ketentuan Penggunaan dan Kode Etik. Pengguna akhir Copilot dengan perlindungan data komersial harus mematuhi Ketentuan Penggunaan Pengguna Akhir. Ketentuan Penggunaan ini menginformasikan pengguna akhir tentang penggunaan yang diizinkan dan tidak diizinkan serta konsekuensi dari ketentuan yang melanggar.
Operasi dan respons cepat. Kami juga menggunakan Copilot dalam proses pemantauan dan operasional Bing yang sedang berlangsung untuk mengatasi ketika Copilot dengan perlindungan data komersial menerima sinyal, atau menerima laporan, menunjukkan kemungkinan penyalahgunaan atau pelanggaran Ketentuan Penggunaan Pengguna Akhir.
Umpan balik, pemantauan, dan pengawasan. Copilot dengan perlindungan data komersial menggunakan alat yang sama seperti Copilot di Bing bagi pengguna untuk mengirimkan tanggapan dan melaporkan masalah, yang ditinjau oleh tim operasi Microsoft. Copilot dalam proses operasional Bing juga telah diperluas untuk mengakomodasi fitur dalam Copilot dengan pengalaman perlindungan data komersial, misalnya, memperbarui halaman Laporkan Kekhawatiran untuk menyertakan tipe konten baru yang dihasilkan pengguna dengan bantuan model.
Untuk membantu memastikan bahwa pengguna akhir memiliki informasi yang mereka perlukan saat berinteraksi dengan Copilot dengan perlindungan data komersial, terdapat dokumentasi produk yang tersedia di bagian bawah dokumen ini, termasuk halaman Tanya Jawab Umum dan Pelajari Selengkapnya.
Perintah dan respons yang dihasilkan oleh pengguna akhir di Copilot dengan perlindungan data komersial diproses dan disimpan dalam keselarasan dengan standar penanganan data perusahaan. Penawaran Copilot dengan perlindungan data komersial saat ini hanya tersedia untuk pelanggan perusahaan dan pengguna akhir dewasa yang diautentikasi, oleh karena itu kami tidak mengantisipasi anak-anak atau anak muda untuk menjadi pengguna akhir Copilot dengan perlindungan data komersial saat ini. Selain itu, Copilot dengan perlindungan data komersial tidak menyediakan iklan yang ditargetkan secara perilaku kepada pengguna akhir. Sebagai gantinya, iklan apa pun yang ditampilkan hanya iklan yang relevan secara kontekstual.
Pelajari selengkapnya
Dokumen ini merupakan bagian dari upaya yang lebih luas di Microsoft untuk menerapkan prinsip-prinsip AI kami. Untuk mengetahui selengkapnya, lihat:
Pendekatan Microsoft untuk AI yang Bertanggung Jawab
Standar AI Microsoft yang Bertanggung Jawab
Sumber daya AI Microsoft yang Bertanggung Jawab
Kursus Microsoft Azure Learning di AI Yang Bertanggung Jawab
Tentang dokumen ini
© Microsoft 2023. Semua hak dilindungi undang-undang. Dokumen ini disediakan "sebagaimana adanya" dan hanya untuk tujuan informasi. Informasi dan tampilan yang dinyatakan dalam dokumen ini, termasuk URL dan referensi situs Web Internet lainnya, mungkin berubah tanpa pemberitahuan. Anda menanggung risiko menggunakannya. Beberapa contoh hanya untuk ilustrasi dan fiktif. Tidak ada hubungan nyata yang dimaksudkan atau disimpulkan.
