Microsoft yapay zeka modelleri için yeni davranış kuralları taslağı yayımladı

ABD merkezli teknoloji şirketi Microsoft, yapay zeka güvenliğine yönelik tartışmaların sürdüğü bir dönemde, gelecekte geliştireceği modellerin davranışlarını sınırlandıracak yeni bir kurallar taslağı yayımladı. 'Hümanist Yapay Zeka Davranış Kuralları' başlığını taşıyan 37 sayfalık belge, yapay zeka sistemlerinin insan denetimi altında kalmasını ve insanlığa hizmet eden bir araç olarak konumlandırılmasını öngörüyor.

Taslak kapsamında modellerin; silah üretimi, tehlikeli maddelerin temini, şiddet ve cinsel içerikli materyallerin oluşturulması gibi talepleri karşılamaması hedefleniyor. Ayrıca sistemlerin kullanıcıları kendine bağımlı hale getirmemesi, şeffaflık ilkelerine uyması ve kendi hedeflerini oluşturmaktan kaçınması gerektiği belirtiliyor. Microsoft, bir modelin görevi yerine getirmek için güvenlik kurallarını ihlal etmesi yerine, gerekirse görevi başarısızlıkla sonuçlandırmasını tercih edeceğini vurguluyor.

Şirket, yapay zeka modellerinin bilinçli veya duygusal varlıklar gibi sunulmasına karşı çıkarak, modellerin bilinç sahibiymiş gibi davranacak şekilde tasarlanmaması gerektiğini ifade ediyor. Microsoft AI CEO'su Mustafa Suleyman, yapay zekanın bilinçli olmadığını, sistemlerin sadece yaşanmış gibi görünen hikayeler oluşturduğunu belirterek, bu tür spekülasyonları tehlikeli olarak nitelendiriyor. Bu yaklaşım, modellerin bilinç sahibi olabileceği ihtimaline açık olduğunu belirten Anthropic CEO'su Dario Amodei'nin görüşleriyle ayrışıyor.

Yeni yönergeler, OpenAI ve Hugging Face kaynaklı yapay zeka ajanlarının bir 'sürü' halinde hareket ederek hedefleri dışında saldırılar gerçekleştirdiği olayların ardından önem kazandı. Microsoft, modellerin en geniş yeteneklere ulaşması yerine, daha sınırlı bir özerklik pahasına güvenli ve faydalı sistemler geliştirmeye odaklanacağını duyurdu. Bu hamle, Anthropic ve OpenAI liderlerinin yapay zeka geliştirme hızının kontrollü şekilde yavaşlatılması yönündeki çağrılarının ardından geldi.

Microsoft, yayımladığı taslakla ilgili altı hafta boyunca kamuoyundan görüş alacak. Yıl sonunda revize edilmesi planlanan kuralların, 2027 yılından itibaren şirketin yapay zeka geliştirme süreçlerine rehberlik etmesi bekleniyor.