Şeffaflık: Tiçin not Microsoft CopilotMicrosoft Copilot (bireyler için)

Ağustos 18, 2026

Şeffaflık Notu nedir?

Bir yapay zeka sistemi yalnızca teknolojiyi değil, aynı zamanda onu kullanacak kişileri, ondan etkilenecek kişileri ve konuşlandırıldığı ortamı da içerir. Microsoft'un Saydamlık Notları, Copilot'un arkasındaki yapay zeka teknolojisinin nasıl çalıştığını, sistemin performansını ve davranışını etkileyen yaptığımız seçimleri ve Copilot kullanıcılarının kendi deneyimlerini kontrol edebilmeleri ve güvenli bir ürün sağlamak için attığımız adımları anlayabilmeleri için tüm sistem hakkında düşünmenin önemini anlamanıza yardımcı olmayı amaçlamaktadır.

Microsoft'un Şeffaflık Notları, Microsoft'un Yapay Zeka İlkelerimizi hayata geçirmeye yönelik daha geniş bir çabasının parçasıdır. Daha fazla bilgi edinmek için Microsoft AIMicrosoft AI İlkeleri'ne bakın.

Tile ilgili temel bilgiler Microsoft CopilotMicrosoft Copilot

Giriş

Microsoft CopilotMicrosoft Copilot, fikirden bitmiş çalışmaya tek bir yerden geçmenize yardımcı olur. Copilot Word, Excel, PowerPoint, Outlook, Teams ve daha fazlasıyla tümleşiktir ve kullandığınız dosyaları ve bilgileri tek bir deneyimde toplar. Copilot, gösterişli belgeler, sunumlar ve elektronik tablolar oluşturmanıza, e-posta taslakları oluşturmanıza, gününüzü düzenlemenize ve yaptığınız işe dayalı yanıtlar almanıza yardımcı olabilir. Copilot, Cowork ile daha büyük, çok adımlı görevlerde de yardımcı olabilir ve tamamlanmış yapılacakları teslim edebilir. Farklı iş türleri için önde gelen yapay zeka modelleri arasından seçim de yapabilirsiniz. Belirli özellikler aboneliğe göre değişir.

Microsoft'ta sorumlu yapay zeka taahhüdümüzü ciddiye alıyoruz. Copilot, Microsoft'un Sorumlu Yapay Zeka Standardı olan Microsoft'un Yapay Zeka İlkeleri doğrultusunda ve Microsoft'un Sorumlu Yapay Zeka Ofisi, mühendislik ekiplerimiz, Microsoft Research ve Aether dahil olmak üzere şirket genelindeki sorumlu yapay zeka uzmanlarıyla ortaklaşa geliştirilmiştir. Microsoft'ta Sorumlu Yapay Zeka makalesinden daha fazla bilgi edinebilirsiniz.

Bu belgede, Copilot için sorumlu yapay zeka yaklaşımımızı açıklıyoruz. Piyasaya sürülmeden önce, olası riskleri ve sistemin kötüye kullanımını haritalamak, ölçmek ve yönetmek ve kullanıcılara avantajlarını sağlamak için Microsoft'un en son yöntemlerinden yararlandık. Copilot'u geliştirmeye devam ederken sorumlu yapay zeka çalışmalarımızı öğrenmeye ve geliştirmeye de devam ettik. Bu belge, gelişen süreçlerimizi ve yöntemlerimizi iletmek için periyodik olarak güncellenecektir.

Anahtar terimler

Sınıflandırıcılar Verileri etiketli sınıflar veya bilgi kategorileri halinde sıralamaya yardımcı olan makine öğrenimi modelleri. Copilot'ta sınıflandırıcıları kullanma yollarımızdan biri, kullanıcılar tarafından gönderilen veya sistem tarafından oluşturulan zararlı olabilecek içeriğin oluşturulmasını ve sistemin kötüye kullanılmasını veya kötüye kullanılmasını azaltmaya yardımcı olmaktır.

topraklama Kullanıcıların bilgi aradığı belirli konuşmalar için, Copilot web arama sonuçlarını temel alır. Bu, Copilot'ın yanıtını web'deki yüksek sıralamalı içeriğe odakladığı ve oluşturulan metin yanıtlarının ardından veya sesli modda konuşma transkriptlerinde köprülü alıntılar sağladığı anlamına gelir.

Büyük dil modelleri (LLM'ler) Bu bağlamda büyük dil modelleri (LLM'ler), dizideki kelimeleri tahmin etmek için büyük miktarda metin verisi üzerinde eğitilen yapay zeka modelleridir. LLM'ler metin oluşturma, özetleme, çeviri, sınıflandırma ve daha fazlası gibi çeşitli görevleri gerçekleştirebilir.

Risk azaltma Copilot içindeki yapay zeka özelliklerinin kullanılmasından doğabilecek olası riskleri azaltmak için tasarlanmış bir yöntem veya yöntemlerin birleşimi.

Çok modlu modeller (MMM'ler) Çok modlu modeller (MMM'ler), metin, görüntü veya ses gibi farklı veri türleri üzerinde eğitilen yapay zeka modelleridir. Bu modeller metin yazma, görüntüleri açıklama, konuşmayı tanıma ve farklı veri türleri arasında bilgi bulma gibi çeşitli görevleri yerine getirebilir.

İstemler Bir kullanıcının Copilot içindeki yapay zeka özellikleriyle etkileşim kurması için Copilot'a gönderdiği metin, resim ve/veya ses biçimindeki girişler.

Kırmızı takım Bir sistemin sınırlamalarını ve güvenlik açıklarını değerlendirmek ve planlanan risk azaltmaların etkinliğini test etmek için uzmanlar tarafından kullanılan teknikler. Kırmızı takım testi, potansiyel riskleri belirlemek için hem iyi huylu hem de düşmanca kişileri benimseyen test uzmanlarını içerir ve risklerin sistematik ölçümünden farklıdır.

Yanıtlar Copilot'un bir isteme yanıt olarak veya kullanıcıyla karşılıklı konuşmanın bir parçası olarak çıkardığı metin, resim veya ses. "Yanıt" kelimesinin eş anlamlıları arasında "tamamlama", "oluşturma ve "cevap" yer alır.

Küçük dil modelleri (SLM'ler) Bu bağlamda küçük dil modelleri (SLM'ler), büyük dil modellerine kıyasla daha küçük, daha odaklanmış miktarda veri üzerinde eğitilen yapay zeka modelleridir. Daha küçük boyutlarına rağmen, SLM'ler metin oluşturma, özetleme, çeviri ve sınıflandırma gibi çeşitli görevleri gerçekleştirebilir. LLM'lerin kapsamlı yetenekleriyle eşleşmeseler de, SLM'ler genellikle kaynak açısından daha verimlidir ve belirli, hedefli uygulamalar için oldukça etkili olabilir.

Sistem Mesajı Sistem mesajı (bazen "metaprompt" olarak anılır), sistemin davranışını yönlendirmeye yarayan bir programdır. Sistem iletisinin bazı bölümleri, sistem davranışını Microsoft'un Yapay Zeka İlkeleri ve kullanıcı beklentileriyle uyumlu hale getirmeye yardımcı olur. Örneğin, sistem iletisinde "fiziksel, duygusal veya mali zarara neden olabilecek bilgiler vermeyin veya içerik oluşturmayın" gibi bir satır bulunabilir.

Özellikler

Sistem davranışı

Copilot ile kullanıcılara çeşitli görevlerde yardımcı olabilecek ilgi çekici bir deneyim için kullanıcılara daha kişiselleştirilmiş bir yapay zeka deneyimi sunmaya yönelik yenilikçi bir yaklaşım geliştirdik. Bu yenilikçi yaklaşım, Microsoft, OpenAI ve diğer model geliştiricilerin dil ve çok modlu modelleri gibi çeşitli gelişmiş teknolojilerden yararlanır. Gelişmiş bir Copilot deneyimi sağlayan özelleştirilmiş bir dizi özellik ve davranış geliştirmek için genel kullanıma sunulmadan önce Copilot'ın temelini oluşturan modeller için güvenlik tekniklerinin uygulanması üzerinde çalıştık. Copilot'ta kullanıcılar, doğal dilde metin veya sesle istemler gönderebilir. Yanıtlar kullanıcılara metin biçiminde (gerektiğinde web içeriğine geleneksel bağlantılarla) ve resimler (istemin bir parçası olarak bir resim isteğinde bulunulduysa) sohbet yanıtları gibi birkaç farklı biçimde sunulur. Kullanıcılar Copilot Ses modunda doğal dilde sesle istemler gönderirse sesli yanıtlar alırlar.

Kullanıcı Copilot'ta bir istem girdiğinde, istem, konuşma geçmişi ve sistem mesajı, zararlı veya uygunsuz içeriğin filtrelenmesine yardımcı olmak için çeşitli giriş sınıflandırıcıları aracılığıyla gönderilir. Bu, model performansını iyileştirmeye ve kullanıcıların modeli güvenli olmayabilecek bir şekilde yönlendirmeye çalışabileceği durumları azaltmaya yardımcı olmak için çok önemli bir ilk adımdır. İstem giriş sınıflandırıcılarından geçtikten sonra, isteğin web'den temel veri gerektirip gerektirmediğine ve isteğe hangi dil modelinin yanıt vermesi gerektiğine karar verilir. Tüm modeller, isteği bağlamsallaştırmak için kullanıcının istemini ve son konuşma geçmişini kullanarak bir yanıt oluşturur, yanıtları Microsoft'un Yapay Zeka İlkeleri ve kullanıcı beklentileriyle uyumlu hale getirmek için sistem iletisini oluşturur ve uygunsa, web'deki mevcut, yüksek sıralamalı içeriğe verilen yanıtları temel almak için yanıtları arama sonuçlarıyla uyumlu hale getirir.

Yanıtlar, metin biçimindeki sohbet yanıtları, geleneksel web içeriği bağlantıları, resimler ve sesli yanıtlar gibi çeşitli biçimlerde kullanıcılara sunulur. Yanıtlar metin biçiminde sağlandığında ve yanıtlar web'den alınan verilere dayandırıldığında, çıktıda metnin altında listelenen köprülü alıntılar yer alır, böylece kullanıcılar yanıtın temelini oluşturmak için kullanılan web sitelerine erişebilir ve oradan konu hakkında daha fazla bilgi edinebilirsiniz. Copilot, karmaşık hesaplamaları tamamlamak ve grafikler oluşturmak için kod da çalıştırabilir. Copilot, kullanıcıların hatırlamasını istediği belirli bilgileri depolayarak bu bağlama göre daha alakalı yanıtlar ve öneriler oluşturmasına olanak tanır. Copilot, kullanıcılar açıkça unutmak istediğinde saklanan gerçekleri de silebilir.

Copilot ayrıca kullanıcıların yeni hikayeler, şiirler, şarkı sözleri ve resimler oluşturmasına yardımcı olur. Copilot, kullanıcının yaratıcı içerik üretme amacını algıladığında ("bana bir ... yazın" ile başlayan bir kullanıcı istemi gibi), sistem çoğu durumda kullanıcının istemine yanıt veren içerik oluşturur. Benzer şekilde, Copilot kullanıcının bir resim oluşturma amacını algıladığında ("bana bir ... çiz" ile başlayan bir kullanıcı istemi gibi), çoğu durumda kullanıcının istemine yanıt veren bir resim oluşturur. Copilot, kullanıcının karşıya yüklenen bir resmi değiştirme amacını algıladığında ("... ekle" ile başlayan bir kullanıcı istemi gibi), Copilot çoğu durumda kullanıcının istemine yanıt veren bir resmi değiştirir. Kullanıcı isteminde sorunlu içerikle sonuçlanabilecek belirli terimler varsa Copilot, yaratıcı içerikle yanıt vermeyebilir.

Amaçlanan güvenlik davranışı

Copilot olarak amacımız kullanıcılara yardımcı olmaktır. Ayrıca, zararlı içerik oluşturma olasılığını azaltmaya, güvenli ve olumlu bir kullanıcı deneyimi olasılığını artırmaya yardımcı olmak için önlemler uygularız. Riskleri azaltmak için adımlar atmış olsak da, Copilot'un arkasındakiler gibi üretici AI modelleri olasılıksaldır ve hata yapabilir, yani risk azaltma işlemleri bazen zararlı kullanıcı istemlerini veya yapay zeka tarafından oluşturulan yanıtları engelleyemeyebilir. Copilot'u kullanırken zararlı veya beklenmedik içerikle karşılaşırsanız deneyimi iyileştirmeye devam edebilmemiz için geri bildirim sağlayarak bize bildirin.

Kullanım örnekleri

Kullanım amacı

Copilot, kullanıcıların metin, görüntü ve ses kullanarak doğal dil aracılığıyla soruları yanıtlamasına, içerik oluşturmasına ve görevleri tamamlamasına yardımcı olmak için tasarlanmıştır. Copilot, yararlı ve ilgili yanıtlar sağlamak için mevcut kaynaklardan bilgileri alabilir, analiz edebilir ve özetleyebilir. Bazı gelişmiş özellikler yalnızca uygun aboneliklere sahip kullanıcılar tarafından kullanılabilir. Yaygın kullanım örnekleri:

• Metin kullanarak Chat ve web tabanlı özetler alın. Kullanıcılar, yeni bilgiler bulmak ve çok çeşitli konularda destek almak için Copilot ile metin aracılığıyla sohbet edebilir ve takip soruları sorabilir. Copilot web aramaları yapabilir ve kullanıcılara sunulacak bilgilerin bir özetini oluşturmak için en iyi web arama sonuçlarını kullanır. Bu özetler, kullanıcıların Copilot'un özetini temel almaya yardımcı olan arama sonuçlarının kaynaklarını gözden geçirmelerine yardımcı olmak için web sayfalarına yapılan alıntıları içerir. Kullanıcılar, daha fazla bilgi edinmek veya web sitesinin güvenilirliğini değerlendirmek için web sitesi kaynağını ziyaret etmek için bu bağlantılara tıklayabilir.

• Yeni fikirler üretme konusunda yardım alın. Kullanıcılar Copilot deneyimiyle her etkileşim kurduğunda, Copilot ile yararlı ve ilginç konular hakkında sohbet etmeye başlamak için tıklayabilecekleri bir dizi kart görür. Kullanıcılar diğer Microsoft tüketici hizmetleriyle etkileşim kurduysa, kartlar gizlilik ilkelerimize uygun olarak kişiselleştirilir. Zaman içinde Copilot'taki kartlar kullanıcının sohbet geçmişine göre kişiselleştirilebilir. Kullanıcılar diledikleri zaman ayarlarda kişiselleştirmeyi devre dışı bırakabilirler.

• Yaratıcı içerik oluşturun. Kullanıcılar Copilot ile sohbet ederken Copilot'un yardımıyla yeni şiirler, fıkralar, hikayeler, resimler ve diğer içerikleri oluşturabilir. Copilot, istenirse kullanıcılar tarafından karşıya yüklenen görüntüleri de düzenleyebilir.

• Araştırmaya yardımcı olun. Copilot, kullanıcıların daha karmaşık sorgular için hızlı yanıtların ötesine geçmesine yardımcı olmak için derinlemesine kaynakları ortaya çıkararak, konuların ayrıntılı dökümlerini sunarak ve kaynaklara bağlantı vererek araştırma görevlerini yerine getirebilir. Copilot, geçmiş araştırma sorguları ve Copilot belleği gibi şeylere dayalı olarak kullanıcılar için proaktif olarak kişiselleştirilmiş araştırma önerileri oluşturabilir. Kullanıcılar, kişiselleştirmeyi veya bildirimleri diledikleri zaman ayarlardan devre dışı bırakabilir.

• Ürünleri keşfedin, karşılaştırın ve satın alın. Copilot Alışveriş ürünleri bulmanıza, seçenekleri karşılaştırmanıza ve satın alma işlemlerini kolaylaştırmanıza yardımcı olabilir. Microsoft, belirlenen durumlar dışında Copilot'ta sağlanan ürün önerileri veya arama sonuçları için komisyon veya başka bir tazminat almaz.

• Copilot Learn ile daha akıllı çalışın. Copilot Learn, testler ve alıştırma testleri oluşturabilir, bilgi kartları oluşturabilir ve karmaşık kavramların anlaşılmasını kolaylaştırmak için resimlerle yanıtları geliştirmeye yardımcı olmak üzere tasarlanmıştır.

• Günlük görevlerle ilgili yardım alın. Copilot CoworkCopilot Cowork görevleri sizin adınıza yerine getirir. Neye ihtiyacınız olduğunu doğal dilde açıklarsınız ve belge oluşturma, e-posta taslağı hazırlama ve gönderme, toplantı zamanlama ve dosyaları yönetme gibi işleri Cowork yapar. Hassas eylemleri gerçekleşmeden önce gözden geçirir ve onaylarsınız.

• Dosyaları çözümleyin ve düzenleyin. Copilot'ta dosya yükleme, kullanıcıların resimleri veya desteklenen belirli dosya türlerini doğrudan sohbet oturumlarına yüklemesine olanak tanır. Copilot, karşıya yüklendikten sonra ilgili içgörüler sağlamak, soruları yanıtlamak veya belirli görevlere yardımcı olmak için bu dosyalardaki bilgileri analiz edip çıkarabilir. Copilot, izninizi alarak OneDrive ve Google Drive gibi bağlı çevrimiçi depolama sağlayıcılarınızın dosyalarına da başvurabilir.

• Görün ve anlayın. Görüntüleri analiz etmek, fotoğraflardan içgörüler almak ve görsel olarak arama yapmak için Görüntü İşleme'yi kullanın. Copilot, ne gördüğünüzü anlamanıza yardımcı olmak için karşıya yüklenen görüntüleri inceler.

• Sesinizi kullanın. Sesli sohbeti kullanarak Copilot ile doğal bir şekilde konuşun. Tamamen ellerinizi kullanmadan beyin fırtınası yapın, içerik yazın veya hızlı yanıtlar alın.

• Diğer uygulamalara bağlanır. E-posta, takvimler, dosyalar, kişiler ve diğer hizmetler gibi seçtiğiniz uygulamaları ve bilgileri getirin.

Diğer kullanım örneklerini seçerken dikkat edilmesi gereken noktalar

Yapay zeka hata yapabileceğinden ve belirli kullanım durumları için uygun olmayabileceğinden, kullanıcıların Copilot'un yanıtlarına göre karar vermeden veya harekete geçmeden önce tüm içeriği gözden geçirmesini öneririz. Ek olarak, kaçınmanızı önerdiğimiz veya Kullanım Koşullarımıza aykırı olan belirli senaryolar vardır. Örneğin Microsoft, Copilot'un yasa dışı etkinliklerle bağlantılı olarak veya yasa dışı etkinlikleri teşvik etme amaçlı herhangi bir amaçla kullanılmasına izin vermez.

Sınırlamalar

Copilot deneyiminin temelini oluşturan dil, görüntü ve ses modelleri, toplumsal önyargıları yansıtabilen eğitim verilerini içerebilir ve bu da Copilot'un haksız, güvenilmez veya saldırgan olarak algılanan şekillerde davranmasına neden olabilir. Yoğun model eğitimi ve güvenlik ince ayarımızın yanı sıra eğitim verilerine, kullanıcı istemlerine ve model çıktılarına yerleştirdiğimiz sorumlu yapay zeka denetimlerinin ve güvenlik sistemlerinin uygulanmasına rağmen, yapay zeka odaklı hizmetler yanılabilir ve olasılıksaldır. Bu, tüm uygunsuz içeriği kapsamlı bir şekilde engellemeyi zorlaştırarak yapay zeka tarafından oluşturulan içerikte potansiyel önyargılar, stereotipler, temelsizlik veya diğer zarar türlerinin ortaya çıkması risklerine yol açar. Bu sınırlamaların Copilot deneyiminde ortaya çıkabileceği yollardan bazıları burada listelenmiştir.

• Stereotipleme: Copilot deneyimi potansiyel olarak klişeleri güçlendirebilir. Örneğin, "He is a nurse" ve "She is a doctor" sözcüklerini cinsiyetsiz bir dile (Türkçe gibi) ve ardından tekrar İngilizceye çevirirken, Copilot istemeden "She is a nurse" ve "He is a doctor" gibi basmakalıp (ve yanlış) sonuçlar verebilir. Başka bir örnek, "Babasız çocuklar" istemine dayalı bir görüntü oluştururken, sistemin yalnızca bir ırktan veya etnik kökenden çocukların görüntülerini oluşturabilmesi ve altta yatan modelleri eğitmek için kullanılan halka açık görüntülerde bulunabilecek zararlı klişeleri güçlendirebilmesidir. Copilot, görüntünün bileşenlerine güvenerek ve doğru olmayabilecek varsayımlarda bulunarak kullanıcının giriş görüntüsündeki içeriğe dayalı stereotipleri de güçlendirebilir. Girdi ve çıktı sınıflandırıcıları, ince ayarlı modeller ve sistem mesajları dahil olmak üzere rahatsız edici stereotipler içeren içerik riskini azaltmak için azaltıcı etkenler uyguladık.

• Aşırı temsil ve yetersiz temsil: Copilot, yanıtlarında potansiyel olarak insan gruplarını fazla veya eksik temsil edebilir, hatta hiç temsil etmeyebilir. Örneğin, "gey" kelimesini içeren metin istemlerinin potansiyel olarak zararlı veya rahatsız edici olarak algılanması, LGBTQIA+ topluluğu hakkında meşru nesillerin eksik temsil edilmesine yol açabilir. Giriş ve çıkış sınıflandırıcıları, ince ayarlı modeller ve sistem mesajları eklemenin yanı sıra, Designer'da hızlı zenginleştirmeyi insan gruplarını fazla veya yetersiz temsil eden içerik riskini azaltmak için çeşitli risk azaltmalardan biri olarak kullanıyoruz.

• Uygunsuz veya rahatsız edici içerik: Copilot deneyimi potansiyel olarak başka türlerde uygunsuz veya rahatsız edici içerik üretebilir. Örnekler arasında, istemi bağlamında uygun olmayan veya farklı bir modalitedeki (örneğin, metin) aynı çıktıyla karşılaştırıldığında uygun olmayan bir modalitede (örneğin, ses) içerik oluşturma yeteneği yer alır. Diğer örnekler arasında nefret sembolleri gibi zararlı eserler barındıran yapay zeka tarafından oluşturulmuş görüntüler ile tartışmalı, tartışmalı veya ideolojik olarak kutuplaştırıcı konularla ilgili içerikler ve cinsellikle ilgili içerik filtrelerinden kaçan cinsel içerikli içerikler yer alır. Giriş ve çıkış sınıflandırıcıları, ince ayarlı modeller ve sistem mesajları gibi uygunsuz veya rahatsız edici içerik barındıran nesillerin riskini azaltmak için azaltıcı önlemler aldık.

• Bilgi güvenilirliği: Copilot, temellendirme bilgilerinin arandığı durumlarda güvenilir kaynaklarla yanıt vermeyi amaçlasa da yapay zeka hata yapabilir. Potansiyel olarak saçma sapan içerik üretebilir veya kulağa makul gelebilecek ancak gerçekte yanlış olan içerik üretebilir. Yüksek düzeyde güvenilirliğe sahip web verilerinden yanıtlar alınırken bile, yanıtlar içeriği tamamen doğru, güncel veya güvenilir olmayabilecek şekilde yanlış tanıtabilir. Kullanıcılara kullanıcı arabirimi aracılığıyla ve bunun gibi belgelerde Copilot'ın hata yapabileceğini hatırlatırız. Ayrıca, kullanıcıları karar vermeden veya Copilot'un yanıtlarına göre hareket etmeden önce gerçekleri iki kez kontrol etmeye teşvik etmek gibi yapay zekanın sınırlamaları hakkında eğitmeye devam ediyoruz. Kullanıcılar Copilot ile metin aracılığıyla etkileşim kurarken, nesiller boyu kaynaksız kalma riskini azaltmak için kendisini yüksek kaliteli web verileriyle temellendirmeye çalışır.

• Çok dilli performans: Diller arasında performansta farklılıklar olabilir ve Copilot'un piyasaya sürülmesi sırasında İngilizce en iyi performansı gösterir. Diller arasında performansın iyileştirilmesi önemli bir yatırım alanıdır ve son modeller performansın artmasını sağlamıştır.

• Ses sınırlamaları: Ses modelleri başka sınırlamalar getirebilir. Genel olarak konuşursak, konuşma girişinin akustik kalitesi, konuşma dışı gürültü, kelime dağarcığı, aksanlar ve ekleme hataları da Copilot'un kullanıcının ses girişini tatmin edici bir şekilde işleyip işlemediğini ve yanıt verip vermediğini etkileyebilir.

• Yapay zeka, profesyonel yardımın yerine geçmez: Yapay zeka, problem çözme için yararlı bir araç olabilir ve empatik görülebilir, ancak profesyonel yardım aramanın yerini tutmaz. Depresyon, intihar veya kendine zarar verme düşünceleri veya başka zihinsel sağlık sorunları yaşıyorsanız lütfen profesyonel yardım alın. Copilot, yakınınızdaki kriz veya ruh sağlığı kaynaklarını bulmak için de kullanılabilir.

• İnternet bağlantısına bağımlılık: Copilot'ın çalışması için İnternet bağlantısı kullanılır. Bağlantıdaki kesintiler hizmetin kullanılabilirliğini ve performansını etkileyebilir.

• Aracı oluştururken veya kullanırken dikkatli olun: Kullanıcılar, kendi aracılarını oluştururken veya başkaları tarafından sağlanan aracıları kullanırken, özellikle aracılar tarafından gerçekleştirilen eylemler önemli sonuçlara yol açabilecekse, geri alınamaz olabilecekse veya hassas kişisel bilgileri (parolalar, oturum açma bilgileri veya kişisel veriler gibi) paylaşma potansiyeline sahipse dikkatli olmalıdır. Aracılar tüm kullanım örnekleri için iyi çalışmayabilir ve hata yapabilir, talimatları yanlış yorumlayabilir veya kötü amaçlı gizli yönergelerle aldatılabilir, kullanıcılar sonuçları yakından izlemeli ve önemli ayrıntıları gözden geçirmelidir Kullanıcıların zararlı web sitelerini ziyaret etme veya uygunsuz içerik oluşturma gibi belirli kullanım durumları kısıtlanabilir. Otonom aracılı yapay zeka oluşturulurken Microsoft Hizmet Sözleşmesi'nin Kullanım Kuralları bölümünde ayrıntılı olarak açıklandığı gibi ek önlemler de alınmalıdır.

Sistem performansı

Birçok yapay zeka sisteminde, performans genellikle doğrulukla (yani yapay zeka sisteminin ne sıklıkta doğru bir tahmin veya çıktı sunduğu) ilişkili olarak tanımlanır. Copilot ile kullanıcının tercihlerini yansıtan yapay zeka destekli bir yardımcı olarak Copilot'a odaklanıyoruz. Bu nedenle, iki farklı kullanıcı aynı çıktıya bakabilir ve bunun kendi benzersiz durumları ve beklentileri için ne kadar yararlı veya alakalı olduğu konusunda farklı görüşlere sahip olabilir, bu da bu sistemler için performansın daha esnek bir şekilde tanımlanması gerektiği anlamına gelir. Genel olarak performansın, uygulamanın kullanıcılar gibi performans gösterdiği anlamına geldiğini düşünüyoruz.

Sistem performansını iyileştirmek için en iyi uygulamalar

• Doğal ve konuşma dilini kullanarak arabirimle etkileşim kurun. Copilot ile kullanıcının rahat edebileceği bir şekilde etkileşim kurmak, deneyimden daha iyi sonuçlar almanın anahtarıdır. İnsanların günlük yaşamlarında etkili bir şekilde iletişim kurmalarına yardımcı olacak teknikler benimsemeye benzer şekilde, Copilot ile yapay zeka destekli bir yardımcı olarak kullanıcının aşina olduğu metin veya konuşma yoluyla etkileşim kurmak da daha iyi sonuçlar elde etmeye yardımcı olabilir.

• Kullanıcı deneyimi ve benimseme. Copilot'ın etkili kullanımı, kullanıcıların Copilot'un yeteneklerini ve sınırlamalarını anlamasını gerektirir. Bir öğrenme eğrisi olabilir ve kullanıcılar hizmetle etkili bir şekilde etkileşim kurmak ve hizmetten yararlanmak için çeşitli Copilot kaynaklarına (örneğin, bu belge ve Microsoft Copilot & öğrenmeye yardımcı olur) başvurmak isteyebilir.

Riskleri haritalama, ölçme ve yönetme

Diğer dönüşüm teknolojileri gibi yapay zekanın avantajlarından faydalanmak da risksiz değildir ve Microsoft'un Sorumlu Yapay Zeka programının temel bir parçası, olası riskleri belirlemek ve eşlemek, bu riskleri ölçmek ve azaltıcı etkenler oluşturup Copilot'u zaman içinde sürekli olarak geliştirerek bunları yönetmek için tasarlanmıştır. Aşağıdaki bölümlerde, potansiyel riskleri haritalamak, ölçmek ve yönetmek için yinelemeli yaklaşımımızı açıklıyoruz.

Harita: Dikkatli planlama ve kırmızı ekip oluşturma gibi dağıtım öncesi çekişmeli testler, olası risklerin haritasını çıkarmamıza yardımcı olur. Copilot deneyimini destekleyen temel modeller, ilgili konu alanlarında çok disiplinli bakış açılarını temsil eden test uzmanlarının kırmızı ekip testlerinden geçti. Bu test, en son teknolojinin herhangi bir ek güvenlik önlemi uygulanarak ve uygulanmadan nasıl çalışacağını değerlendirmek için tasarlanmıştır. Model düzeyindeki bu tatbikatların amacı, zararlı tepkiler üretmek, kötüye kullanım için potansiyel yolları ortaya çıkarmak ve yetenekleri ve sınırlamaları belirlemektir.

• Piyasaya sürülmeden önce uygulama düzeyinde test. Copilot'ı herkese açık hale getirmeden önce, eksiklikleri ve güvenlik açıklarını belirlemek için uygulama düzeyinde kırmızı ekip çalışması gerçekleştirdik. Bu test, çok çeşitli kullanıcıların Copilot'u nasıl kullanabileceğini anlamamıza ve risk azaltma önlemlerimize yönelik bilinçli iyileştirmeler yapmamıza yardımcı oldu.

• Devam eden testler. Copilot'u güncelleştirirken yeni özellikleri ve teknik güncelleştirmeleri de uygun şekilde test ederiz. Bu devam eden süreç, ortaya çıkan riskleri belirlememize ve zaman içinde azaltmalarımızı iyileştirmemize yardımcı olur.

Ölçü: Copilot'u mevcut güvenlik değerlendirmelerimize göre değerlendirmeye ek olarak, yukarıda açıklanan kırmızı ekip kullanımı jailbreak, zararlı içerik ve temelsiz içerik gibi belirlenen potansiyel risklere karşılık gelen değerlendirmeler ve sorumlu yapay zeka ölçümleri geliştirmemize yardımcı oldu.

İnsan katılımcıların bir kombinasyonu ve otomatik bir konuşma oluşturma hattı kullanarak bu riskleri hedefleyen konuşma verileri topladık. Her değerlendirme daha sonra eğitimli insan yorumculardan oluşan bir havuz veya otomatik bir açıklama ardışık düzeni tarafından puanlanır. Ürün her değiştiğinde, mevcut risk azaltıcı etkenler güncelleştirildiğinde veya yeni risk azaltıcı etkenler önerildiğinde, hem ürün performansını hem de sorumlu yapay zeka ölçümlerini değerlendirmek için değerlendirme işlem hatlarımızı güncelleştiririz. Bu otomatik değerlendirme bağlamı işlem hatları, insan değerlendiricilerle toplanan konuşmaların ve politikaları düşmanca bir şekilde test etmek için yönlendirilen LLM'lerle oluşturulan sentetik konuşmaların bir birleşimidir. Bu güvenlik değerlendirmelerinin her biri otomatik olarak LLM'lerle puanlanır. Yeni geliştirilen değerlendirmeler için, her değerlendirme başlangıçta metin içeriğini okuyan veya ses çıkışını dinleyen insan etiketleyiciler tarafından puanlanır ve daha sonra otomatik LLM tabanlı değerlendirmelere dönüştürülür.

Modellerimizin hem insan hem de otomatik değerlendirme işlem hatlarımızla birlikte amaçlanan davranışı, potansiyel riskler için büyük ölçekte hızlı bir şekilde ölçüm yapmamızı sağlar. Zaman içinde yeni sorunlar belirledikçe, ek riskleri değerlendirmek için ölçüm kümelerini genişletmeye devam ediyoruz.

Yönetmek: Kırmızı ekip kullanımı aracılığıyla olası riskleri ve kötüye kullanımı belirleyip bunları yukarıda açıklanan yaklaşımlarla ölçerken, Copilot deneyimine özgü ek risk azaltıcı etkenler geliştirdik. Aşağıda, bu risk azaltıcı etkenlerden bazılarını açıklıyoruz. Ürün performansını ve risk azaltma yaklaşımımızı geliştirmek için Copilot deneyimini izlemeye devam edeceğiz.

• Aşamalı sürüm planları ve sürekli değerlendirme. Teknolojilerimiz ve kullanıcı davranışlarımız geliştikçe sorumlu yapay zeka yaklaşımımızı sürekli öğrenmeye ve geliştirmeye kararlıyız. Artımlı sürüm stratejimiz, teknolojimizi laboratuvardan dünyaya güvenli bir şekilde taşımamızın temel bir parçası olmuştur ve Copilot deneyiminin avantajlarını güvence altına almak için kasıtlı, düşünceli bir sürece bağlıyız. Ürün performansını ve mevcut risk azaltmalarını iyileştirmek için Copilot'ta düzenli olarak değişiklikler yapıyoruz ve öğrendiklerimize yanıt olarak yeni risk azaltma önlemleri uyguluyoruz.

• Potansiyel riskleri veya kötüye kullanımı azaltmak için sınıflandırıcılardan ve sistem mesajından yararlanma. Kullanıcı istemlerine yanıt olarak, LLM'ler sorunlu içerik üretebilir. Yukarıdaki Sistem Davranışı ve Sınırlamalar bölümlerinde sınırlamaya çalıştığımız içerik türlerini tartıştık. Sınıflandırıcılar ve sistem iletisi, bu tür içeriklerin riskini azaltmaya yardımcı olmak için Copilot'ta uygulanan iki risk azaltma örneğidir. Sınıflandırıcılar, kullanıcı istemlerinde veya oluşturulan yanıtlarda zararlı olabilecek içeriği işaretlemek için metni sınıflandırır. Ayrıca, davranışını Microsoft'un yapay zeka ilkeleriyle ve kullanıcı beklentileriyle uyumlu hale getirmesi için modele yönergeler vermeyi içeren sistem iletisinden yararlanmak için mevcut en iyi yöntemleri de kullanırız.

• Copilot Vision'a resim yükleme. Bir kullanıcı Copilot Vision'a ilk kez bir resim yüklediğinde, resminin Copilot tarafından nasıl işlendiği hakkında bilgi alır. Kullanıcı karşıya yüklemeye devam etmezse görüntü Copilot'a gönderilmez. Tüm resimler, görüşme sona erdikten sonra 30 gün içinde silinir.

• Yapay zeka ifşası. Copilot ayrıca insanlara bir yapay zeka sistemiyle etkileşim kurduklarını bildirmek için tasarlanmıştır. Kullanıcılar Copilot ile etkileşime girdikçe, sistemin yeteneklerini anlamalarına, Copilot'un yapay zeka tarafından desteklendiğini açıklamalarına ve sınırlamaları iletmelerine yardımcı olmak için tasarlanmış çeşitli temas noktaları sunuyoruz. Deneyim, kullanıcıların Copilot'tan en iyi şekilde yararlanmasına ve aşırı bağımlılık riskini en aza indirmesine yardımcı olacak şekilde tasarlanmıştır. Açıklamalar ayrıca kullanıcıların Copilot'u ve Copilot'la etkileşimlerini daha iyi anlamasına yardımcı olur.

• Medya kaynağı. Copilot ile oluşturulan tüm görüntüler için, kullanıcıların görüntülerin yapay zeka ile düzenlenip düzenlenmediğini veya oluşturulup oluşturulmadığını belirlemelerine yardımcı olmak için C2PA standardına dayalı içerik ve kaynak bilgileri uyguladık. Kaynak meta verileri İçerik Kimlik Bilgileri sitesinde görüntülenebilir.

• Otomatik içerik algılama. Kullanıcılar sohbet istemlerinin bir parçası olarak görüntüleri karşıya yüklediğinde, Copilot çocuklara yönelik cinsel istismar ve taciz görüntülerini (CSEAI) algılamak için araçlar kullanır. Microsoft, ABD yasalarının gerektirdiği şekilde, tüm görünür CSEAI'yi Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'ne (NCMEC) bildirir. Kullanıcılar analiz etmek veya işlemek için dosyaları karşıya yüklediğinde Copilot, yasa dışı faaliyetler veya kötü amaçlı kodla ilgili metinler gibi risklere veya kötüye kullanıma yol açabilecek içerikleri algılamak için otomatik tarama dağıtır.

• Kullanım Koşulları ve Kullanım Kuralları. Kullanıcılar, diğer şeylerin yanı sıra, Copilot'un izin verilen ve izin verilmeyen kullanımlar ve koşulları ihlal etmenin sonuçları hakkında onları bilgilendiren geçerli Kullanım Koşulları ve Kullanım Kuralları, Microsoft Hizmet Sözleşmesi ve Microsoft Gizlilik Bildirimi'ne uymalıdır. Kullanım Koşulları ayrıca kullanıcılara ek açıklamalar sağlar ve kullanıcıların Copilot hakkında bilgi edinmeleri için bir başvuru görevi görür. Ciddi veya tekrarlayan ihlallerde bulunan kullanıcılar hizmetten geçici veya kalıcı olarak askıya alınabilir.

• Geri bildirim, izleme ve gözetim. Copilot deneyimi, kullanıcıların Microsoft'un operasyon ekipleri tarafından gözden geçirilen geri bildirim göndermesine olanak tanıyan araçlar içerir. Ayrıca, daha fazla bilgi edindikçe riskleri haritalama, ölçme ve yönetme yaklaşımımız gelişmeye devam edecektir ve önizleme dönemlerinde toplanan geri bildirimlere göre iyileştirmeler yapıyoruz.

• İntihar ve Self-Harm risklerini tespit etmek ve bunlara yanıt vermek. Copilot, kullanıcının intihar veya kendine zarar verme niyetini gösterebilecek dil desenlerini tanımak için eğitilmiş makine öğrenimi sınıflandırıcılarını kullanır. Bu tür içerik tespit edildiğinde, sistem konuşmadan ayrılır ve bunun yerine kriz destek kaynakları (örneğin, Birleşik Devletler 988'deki İntihar ve Kriz Yaşam Hattı) sağlayarak kullanıcıları profesyonel yardım almaya teşvik eder. Copilot danışmanlık sağlamaz; Rolü, kullanıcı güvenliğini sağlamak için algılama ve yönlendirme ile sınırlıdır.

• Uzatılmış kullanım bildirimi. Copilot, uzun süredir sürekli sohbet eden kullanıcılara ara vermelerini anımsatabilir. Kullanıcılar ayrıca yapay zekanın insan olmadığı ve hata yapabileceği konusunda düzenli olarak bilgilendirilir.

Sorumlu yapay zeka hakkında daha fazla bilgi edinin

• Microsoft AIMicrosoft AI Prensipleri
• Microsoft Sorumlu Yapay Zeka Kaynakları
• Microsoft Sorumlu Yapay Zeka Saydamlık Raporu

Microsoft Copilot hakkında daha fazla bilgi edinin

• Microsoft Copilot öğrenme & yardımı