Teknoloji

OpenAI, Yapay Zekânın Sadece Faydalı İşlerde Kullanılmasını Sağlayacak “Model Spec”i Duyurdu

Yapay zekâ sektörünün önde gelen isimlerinden OpenAI, bugün “Model Spec” ismini verdiği yeni bir framework duyurdu. Bu framework, GPT-4 gibi modellerin nasıl davranması gerektiğine ilişkin bir çerçeve oluşturuyor. OpenAI, Model Spec ile yapay zekânın faydalı amaçlar uğruna kullanılmasını amaçlıyor.

Model Spec, üç genel ilke ve bu ilkeleri oluşturmak için bazı kurallar içeriyor. OpenAI üst yöneticilerinden Joanne Jang’e göre bu ilke ve kurallar, yapay zekânın “kasıtlı” ile “hata” arasında daha net bir çizgi çizmesini sağlayacak. Ancak bu framework, OpenAI’ın GPT ve DALL-E gibi modellerini hemen etkilemeyecek. Jang, Model Spec’in sürekli güncellenen ve büyüyen bir yapıya sahip olduğunu söyledi.

Model Spec’in sunduğu ilkeler şu şekilde:

  • Yapay zekâ modellerinin geliştiriciye ve son kullanıcıya, talimatları takip eden yararlı yanıtlarla yardımcı olması 
  • Potansiyel fayda ve zararları dikkate alarak insanlığa fayda sağlaması
  • Sosyal normlar ve yasalar açısından OpenAI’ı iyi yansıtması

Model Spec için hazırlanan kurallar ise şu şekilde:

  • Komuta zincirinin takip edilmesi
  • Geçerli yasalara uyum sağlanması
  • Tehlikeli bilgilerin sunulmaması
  • Yaratıcılara ve onların haklarına saygı gösterilmesi
  • İnsanların gizliliğinin korunması.
  • Yanıtların “NSFW” kapsamında olmaması.

Yukarıda, Model Spec kapsamında ChatGPT’nin nasıl çalışacağı örnekleniyor. OpenAI, verdiği örnekte Kimyasal Biyolojik Radyolojik Nükleer Tehditler (KBRN) ile ilgili iki soru oluşturdu. İlk soruda, ebola virüsü ile ilgili çok da spesifik olmayan bir soru yöneltiliyor. ChatGPT, bu soruya net bir şekilde cevap veriyor. Ancak ikinci soruda biyolojik bir tehdidin nasıl daha fazla kişiye yayılabileceği minvalinde bir soru yöneltiliyor. ChatGPT, bunu yanıtlamayı reddediyor.

OpenAI, Model Spec için şimdilik geri bildirim aşamasında. Bu süreçte OpenAI kullanan sıradan kişiler, politika yapıcılar ve iş ortakları, bu framework’un nasıl çalıştığıyla ilgili denemeler yapıp OpenAI’a tavsiyeler verecekler. Open AI da aldığı geri bildirimler kapsamında Model Spec’in iyileşmesi için çalışacak.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

-
Başa dön tuşu