ABD hükümeti yapay zeka kullanımı konusunda her şeyi yapmayı planlıyor. Ancak bir hükümet gözlemcisi, hükümetin bir planı olmadığını söylüyor
Hükümet Sorumluluk Ofisi (GAO), yaklaşık iki düzine kurumun yapay zeka için mevcut ve planlanan kullanımlarına ilişkin uzun zamandır beklenen bir incelemede, yapay zeka satın alımlarında hükümet çapında bir standardın olmamasının Amerikan güvenliğini zayıflatabileceğini yazdı. GAO, hükümetin en üst düzey hesap verebilirlik gözlemcisidir.
Salı günü yayınlanan 96 sayfalık rapor, ABD hükümetinin askeri olmayan kurumların halihazırda yapay zeka veya makine öğrenimini kullandığı 200'den fazla yolu ve çalışmalarda yapay zeka için planlanan 500'den fazla uygulamayı kataloglamak için şimdiye kadarki en kapsamlı çabasına işaret ediyor.
Bu çalışma, yapay zeka geliştiricilerinin her zamankinden daha sofistike yapay zeka modellerini piyasaya sürdüğü ve politika yapıcıların en hassas kullanım durumlarında yapay zeka endüstrisi için düzenlemeler geliştirmek için çabaladığı bir dönemde ortaya çıktı. Dünyanın dört bir yanındaki hükümetler, YZ'nin hastalıklara çare bulma veya üretkenliği artırma potansiyeli gibi faydalarını vurguladılar. Ancak aynı zamanda, çalışanları yerinden etme, seçimlerde yanlış bilgi yayma veya algoritmik önyargılar yoluyla savunmasız nüfuslara zarar verme tehlikesi de dahil olmak üzere riskleri konusunda endişeliler. Uzmanlar, yapay zekanın kötü niyetli aktörlere siber saldırılar veya biyolojik silahlar geliştirmek için yeni yollar sunarak ulusal güvenlik için yeni tehditlere bile yol açabileceği konusunda uyardı.
GAO'nun geniş kapsamlı anketi, Adalet ve İç Güvenlik Bakanlıklarından Sosyal Güvenlik İdaresi ve Nükleer Düzenleme Komisyonu'na kadar 23 kurumdan yanıt istedi. Rapora göre, federal hükümet halihazırda YZ'yi 228 farklı şekilde kullanıyor ve bu kullanımların neredeyse yarısı geçtiğimiz yıl içinde başlatıldı ve bu da YZ'nin ABD hükümeti genelinde hızla benimsendiğini yansıtıyor.
GAO'nun raporunda tanımladığı mevcut ve planlanan hükümet YZ kullanımlarının büyük çoğunluğu, yaklaşık 10'da yedisi, ya bilimle ilgilidir ya da kurum içi yönetimi iyileştirmeyi amaçlamaktadır. Örneğin, Ulusal Havacılık ve Uzay Dairesi (NASA) GAO'ya dünya genelindeki yanardağ faaliyetlerini izlemek için yapay zeka kullandığını söylerken, Ticaret Bakanlığı orman yangınlarını izlemek ve drone fotoğraflarında görülen deniz kuşlarını ve fokları veya morsları otomatik olarak saymak için yapay zeka kullandığını söyledi.
GAO raporuna göre, İç Güvenlik Bakanlığı, makine öğrenimi teknolojilerini kamera ve radar verilerine uygulayarak "ilgilenilen sınır faaliyetlerini belirlemek" için yapay zeka kullandığını söyledi.
Yapay zekayı benimseyen kurumlar
Raporda ayrıca federal kurumların yapay zekayı gizlice kullandıkları yüzlerce yöntem de vurgulanıyor. Rapora göre, federal kurumlar toplam 1.241 aktif ve planlanmış YZ kullanım durumunun yaklaşık %70'ini kamuya açıklamaya istekliydi, ancak teknolojinin 350'den fazla uygulamasını "hassas kabul edildikleri" için tanımlamayı reddetti.
Bazı kurumlar, YZ kullanımları konusunda olağanüstü derecede ketum davrandı: Dışişleri Bakanlığı, teknoloji için 71 farklı kullanım örneği listeledi, ancak GAO'ya bunlardan yalnızca 10'unu kamuya açıklayabileceğini söyledi.
Bazı kurumlar YZ için nispeten az sayıda kullanım bildirmiş olsa da, bu bir avuç uygulama, potansiyel olarak zararlı YZ sonuçları konusunda uyarıda bulunan hükümet gözlemcileri, sivil özgürlük grupları ve YZ uzmanları tarafından en çok incelenen uygulamalardan bazılarını çekti.
Örneğin, Adalet ve İç Güvenlik Bakanlıkları, GAO'nun Salı günkü raporunda, NASA'nın 390 veya Ticaret Bakanlığı'nın 285'inin küçük bir kısmı olan YZ için toplam 25 mevcut veya planlanan kullanım durumu bildirdi. Ancak bu küçük sayı, DOJ ve DHS'nin kullanım durumlarının ne kadar hassas olabileceğini gizliyor.
Eylül ayında GAO, federal kolluk kuvvetlerinin 2019'dan 2022'ye kadar altı ABD kurumunda bu tür aramaların %95'ine tekabül eden binlerce yapay zeka destekli yüz tanıma aramasını, aramaları gerçekleştiren yetkililer için uygun eğitim gerekliliklerine sahip olmadan gerçekleştirdiği konusunda uyarıda bulunmuş ve yapay zekanın kötüye kullanım potansiyelini vurgulamıştı. Gizlilik ve güvenlik uzmanları, polislikte yapay zekaya çok fazla güvenmenin yanlış kimlik ve haksız tutuklama vakalarına veya azınlıklara karşı ayrımcılığa yol açabileceği konusunda rutin olarak uyarıda bulundu.
(GAO'nun Eylül ayındaki yüz tanıma raporu, DHS genel müfettişinin Gümrük ve Sınır Devriyesi, ABD Gizli Servisi ve Göçmenlik ve Gümrük Muhafaza dahil olmak üzere çeşitli kurumların, yetkililerin gerekli gizlilik etki değerlendirmelerini yapmadan ticari veri simsarlarından Amerikalıların coğrafi konum geçmişlerini satın aldıklarında muhtemelen yasaları ihlal ettiklerini tespit eden raporuyla aynı zamana denk geldi).
Yetkililer önemli sorunları çözmek için giderek daha fazla YZ'ye ve otomatik veri analizine yönelirken, federal kurumların YZ tedariki de dahil olmak üzere bir dizi konuya yaklaşımını uyumlu hale getirmekten sorumlu olan Yönetim ve Bütçe Ofisi, kurumların YZ'yi nasıl düzgün bir şekilde edinmesi ve kullanması gerektiğini özetleyen bir taslak notu henüz tamamlamadı.
GAO, "Rehberlik eksikliği, kurumların YZ yönetiminde temel uygulamaları tam olarak uygulamamasına katkıda bulundu" diye yazdı. OMB gerekli rehberliği yayınlayana kadar, federal kurumlar muhtemelen YZ kullanımları konusunda tutarsız politikalar geliştirecek ve bu da temel uygulamalarla uyumlu olmayacak veya Amerikan halkının refahı ve güvenliği için faydalı olmayacaktır."
Rapora göre, hükümette yapay zeka ile ilgili 2020 federal yasası uyarınca, OMB'nin Eylül 2021'e kadar kurumlara taslak kılavuzlar yayınlaması gerekiyordu, ancak son tarihi kaçırdı ve taslak notunu ancak iki yıl sonra, Kasım 2023'te yayınladı.
OMB, gözlemcinin YZ konusunda rehberlik yayınlama tavsiyesine katıldığını ve Kasım ayında yayınladığı taslak rehberliğin, Başkan Joe Biden'ın Ekim ayında YZ güvenliğini ele alan idari emrine bir yanıt olduğunu söyledi.
Biden'ın yapay zeka yaklaşımı
Direktifin Beyaz Saray özetine göre, Biden'ın son YZ icra emri, hükümleri arasında "en güçlü YZ sistemlerinin" geliştiricilerinin modellerinin test sonuçlarını hükümetle paylaşmasını gerektiriyor. Bu yıl, bir dizi önde gelen YZ şirketi de Biden yönetimine, YZ modellerini halka açıklamadan önce dışarıda test ettireceklerine dair söz verdi.
Biden icra emri, örneğin Enerji Bakanlığı'nı, YZ'nin kimyasal, biyolojik, radyolojik veya nükleer silahları içeren tehditleri şiddetlendirme potansiyelini değerlendirmekle görevlendirerek, YZ politikaları söz konusu olduğunda federal kurumlar için artan gereksinimler setine katkıda bulunuyor.
Salı günkü GAO raporu, Kongre'nin veya Beyaz Saray'ın 2019'dan bu yana federal kurumlara dayattığı YZ ile ilgili gerekliliklerin kapsamlı bir listesini belirledi ve performanslarını derecelendirdi. Rapor, OMB'yi YZ alımları için hükümet çapında bir plan oluşturamadığı için suçlamanın yanı sıra, diğer bazı kurumların YZ'ye yaklaşımlarında eksiklikler buldu. Örneğin, Eylül ayı itibariyle Personel Yönetimi Ofisi, federal hükümetin önümüzdeki beş yıl içinde doldurması gerekebilecek YZ ile ilgili rollerin sayısına ilişkin gerekli bir tahmini henüz hazırlamamıştı. Raporda ayrıca, Hazine Bakanlığı'ndan Eğitim Bakanlığı'na kadar 10 federal kurumun, YZ kullanım durumları listelerini zaman içinde güncellemek için gerekli planlardan yoksun olduğu ve bunun da halkın ABD hükümetinin YZ'yi nasıl kullandığını anlamasını engelleyebileceği belirtildi.
Ayrıca okuyun:
- Telefónica hologram telefon için pazara girmeyi hedefliyor
- vzbv: İnternet şirketleri yasağa rağmen hile yapmaya devam ediyor
- Telefónica 2026'da hologram telefon için pazara girmeyi hedefliyor
- Federal hükümetin BT sistemlerinin eko-dengesinde neredeyse hiç iyileşme yok
Kaynak: edition.cnn.com