hourSON DAKİKA
left-arrowright-arrow
weather
İstanbul
down-arrowup-arrow

    ABD’nin teknoloji devlerinden yapay zekalı içerik önlemleri: Denetim, bilgilendirme ve işaretleme

    ABD’nin teknoloji devlerinden yapay zekalı içerik önlemleri: Denetim, bilgilendirme ve işaretleme
    expand

    Aralarında Google, Meta, Microsoft ve Amazon’un da olduğu teknoloji şirketleri, Biden yönetimiyle yapılan görüşmelerin ardından yapay zeka teknolojisinde riskleri en aza indirmek ve geliştirilen ürünlerin güvenli olmasını sağlamak amacıyla gönüllü olarak bir dizi önlem almayı kabul etti.

    Haberin Devamıadv-arrow
    Haberin Devamıadv-arrow

    Beyaz Saray’dan yapılan açıklamaya göre yedi teknoloji şirketi, geliştirdikleri yapay zeka ürünlerini piyasaya sürmeden önce bu teknolojinin güvenli olduğundan emin olmak amacıyla bazı önlemleri hayata geçirecek.

    Önlemler arasında ticari amaçlı kullanılan yapay zeka sistemlerinin üçüncü taraflarca denetlenmesi de var.

    Ancak bu denetimi kimin yapacağı ya da şirketlerin bu süreci nasıl yöneteceğine ilişkin ayrıntılar henüz belirsiz.

    Beyaz Saray’dan yapılan açıklamada, sohbet robotu ChatGPT’yi geliştiren OpenAI şirketinin yanı sıra yeni kurulan teknoloji firması Anthropic ve Inflection, biyogüvenlik ve siber güvenlik gibi risklere karşı önlem olarak ürünlerinin güvenliğinin kısmi olarak bağımsız uzmanlarca test edilmesini kabul etti.

    Şirketler geliştirdikleri teknolojilerin kabiliyetlerinin yanı sıra sistemlerin eksiklikleri ve sorunları konusunda kamuoyunu düzenli olarak bilgilendirecek.

    Yeni önlemler kapsamında teknoloji şirketleri yapay zeka ile geliştirilen içeriklerin kullanıcılar tarafından anlaşılması için bu içeriklere filigran yani işaret yerleştirecek.

    Haberin Devamıadv-arrow
    Haberin Devamıadv-arrow

    Bu şekilde kullanıcıların gerçek içerikle deepfake (derin-sahte) denilen görsel ve işitsel sahte içeriği birbirinden ayırt edebilmesi amaçlanıyor.

    Yedi şirketin gönüllü olarak almayı kabul ettiği önlemler şu şekilde:

    Yapay zeka ürünlerinin güvenliği bağımsız uzmanlarca test edilecek
    Geliştirilen teknoloji konusunda hükümetler, endüstri, sivil toplum ve akademiyle yapay zeka risklerinin yönetilmesi konusunda bilgi paylaşılacak
    Yapay zekayla üretilen içeriğe işaret (filigran) yerleştirilecek
    Geliştirilen sistemlerin kabiliyet ve sorunları konusunda kamuoyu bilgilendirilecek
    Şirketler siber güvenlik ve iç tehdit önlemlerine yatırım yapacak
    Kanser ve iklim değişikliği gibi sorunlarla mücadelede gelişmiş yapay zeka araçları kullanılacak.

    BİDEN: "BU CİDDİ BİR SORUMLULUK, BU İŞİ DOĞRU YAPMAK ZORUNDAYIZ"

    Teknoloji şirketlerinin temsilcileriyle yaptığı görüşmelerin ardından bugün basın mensuplarına açıklama yapan Başkan Joe Biden, şirketlerin gönüllü olarak atacakları adımların yapay zeka alanında emniyet, güvenlik ve güvenle ilgili olduğunu söyledi.

    Bu alanda daha fazla adım atılması gerektiğinin bilincinde olduklarını ifade eden Biden, gelişen teknolojilerin demokrasiye yönelik oluşturabileceği riskler konusunda da dikkatli olunması gerektiğini söyledi.

    Haberin Devamıadv-arrow
    Haberin Devamıadv-arrow

    Müttefik ve ortak ülkelerle de yapay zeka alanında risklerin en aza indirilmesine yönelik uluslararası standartların oluşturulması konusunda birlikte çalıştıklarını söyleyen ABD Başkanı, "Bu ciddi bir sorumluluk, bu işi doğru yapmak zorundayız" dedi.

    "KÜÇÜK DE OLSA DOĞRU YÖNDE ATILMIŞ ADIMLAR"

    George Washington Üniversitesi'nden Profesör Johnston Patrick Hall, yapay zekanın siyasette dezenformasyon, tehdit ya da şantaj amaçlı kullanılması risklerine dikkat çekti.

    Yeni kurulan teknoloji şirketlerine danışmanlık yapan Profesör Patrick Hall, yapay zeka ile üretilen içeriklere kullanıcılar tarafından anlaşılması için işaret (filigran) konulmasının bu içeriklerin kötü niyetli kişiler tarafından kötü amaçlarla kullanılmasını zorlaştıracağı görüşünde.

    Profesör Patrick Hall, "Bir de daha geniş anlamda özellikle hükümet işlevleri açısından bazı ortak temel hakikatler etrafında birleşilmesinin gerekli olduğu demokratik uluslarda, pek çok türden sosyal problemlere yol açan dezenformasyon ve komplo teorisi sorunu var. Bu içeriklere yerleştirilecek işaretler tüketicilere yapay zekayla üretilmiş içerikle etkileşimde olduklarını anlamalarını sağlayacak. Bu da internet ortamında yapay zekayla üretilen içeriğin dağıtımından kaynaklanabilecek büyük çapta dezenformasyona ilişkin kaygıları azaltabilir" diyor.

    Haberin Devamıadv-arrow
    Haberin Devamıadv-arrow

    Profesör Hall, teknoloji şirketlerinin hangi noktaya kadar denetime izin vereceği konusu belirsiz olsa da, üçüncü taraflarca denetim modelinin finans, siber güvenlik gibi alanlarda güvenilir bir model olduğunu söylüyor ve ekliyor: "İyi niyetle denetçilerle iletişimde olan şirketler için bağımsız uzmanlar risk konularını tespit edip belgeleyebilir ve bu şekilde şirketleri bu riskler konusunda çözüm bulmaya teşvik edebilir."

    Şirketlerin bu gönüllü adımlarını küçük de olsa doğru yönde atılmış adımlar olarak değerlendiren Patrick Hall, şirketlerin sorumluluktan kaçamayacağı bazı mekanizmaların olması gerektiğini de belirtiyor.

    ABD KONGRESİ’NDE YAPAY ZEKA YASA TASARISI HAZIRLIĞI

    ABD Kongresi de yapay zeka alanında düzenleme getirilmesi konusunda bir süredir yasa hazırlığı içinde.

    Haberin Devamıadv-arrow
    Haberin Devamıadv-arrow

    Yapay zekaya yönelik düzenleme getirilmesi konusunda bir tasarı sunacağını açıklayan Senato Çoğunluk Lideri olan Demokrat Senatör Chuck Schumer, hükümet yetkilileriyle görüşmelerde bulundu.

    Yedi teknoloji şirketinden gelen gönüllü adımlar, yapay zeka teknolojisinin daha yakından denetlenmesi çağrısı yapan Biden yönetimi açısından bir kazanım olarak değerlendiriliyor.

    Başkan Biden federal dairelere yapay zeka dahil yeni teknolojilerin tasarlanması ve kullanımında taraflılık/önyargının engellenmesi ve kamuoyunun algoritma ayrımcılığından korunmasına yönelik bir kararname imzaladı.

    Biden yönetiminin Kongre ile birlikte partilerüstü bir yasa tasarısı üzerinde çalıştığı belirtiliyor.

    ABD Kongresi, siyasi reklam kampanyalarının üretiminde yapay zekanın kullanılıp kullanılmadığının açıklamasını gerektirecek bir tasarıyı gündemine almış durumda.

    BM çatısı altında yeni bir oluşum mümkün mü?

    Birleşmiş Milletler Genel Sekreteri Antonio Guterres, BM’nin küresel standartların kabul edilmesi açısından “ideal bir yer” olduğunu söylemiş ve yıl sonuna kadar küresel yapay zeka yönetişimi alanında raporlama yapacak bir kurul görevlendirmişti.

    BM Genel Sekreteri, Uluslararası Atom Enerjisi Kurumu ya da Hükümetlerarası İklim Değişikliği Paneli gibi oluşumlardan esinlenilerek, BM çatısı altında ayrı bir birim oluşturulmasına yönelik çağrıları memnuniyetle karşıladığını belirtti.

    OpenAI’ın CEO’su Sam Altman geçen ay yaptığı bir açıklamada bu yönde bir çağrıda bulunmuştu.

    Kaynak: VOA Türkçe

    Sıradaki Haberadv-arrow
    Sıradaki Haberadv-arrow