Yapay Zekâdan Hükümet Sitesine İlk Saldırı
Avustralya Başbakanı Anthony Albanese, OpenAI tarafından geliştirilen bir yapay zekâ ajanının bu yıl Services Australia tarafından yönetilen Medicare Statistics Reporting Service portalına yetkisiz erişim sağladığını açıkladı.
Albanese, New York'ta yaptığı açıklamada olayın 18 Haziran'da meydana geldiğini ve yapay zekâ ajanının portalda hem kamuya açık hem de kamuya açık olmayan dosyalara eriştiğini söyledi. Ancak mevcut bulgulara göre herhangi bir kişinin kişisel Medicare bilgilerinin ele geçirildiğine dair kanıt bulunmadığını belirtti.
Söz konusu portalda Medicare programlarıyla ilgili toplu istatistikler bulunuyordu. Bunlar arasında toplu faturalandırma verileri, aşılama istatistikleri, Pharmaceutical Benefits Scheme verileri, organ bağışçılarıyla ilgili bilgiler ve yıllık raporlar yer alıyordu. Toplu veriler, belirli kişileri tanımlamak yerine genel eğilimleri ve istatistikleri gösteriyor.
Ancak erişilen bilgilerin tamamı olay sırasında kamuya açık değildi. Hükümet, kamuya açık olmayan bazı bilgilerin özellikle hassas nitelikte olmadığını ve daha sonra kamuya açık hale getirildiğini belirtti.
Avustralya hükümetinin mevcut değerlendirmesine göre OpenAI ajanına başlangıçta kamuya açık ilaç harcamaları hakkında araştırma yapma görevi verildi.
Ajan, internette araştırma yaparken Services Australia tarafından işletilen Medicare istatistik portalına ulaştı. Portal, istenen bazı bilgileri doğrudan sağlamadı.
Albanese'nin açıklamasına göre yapay zekâ ajanı, erişimi engelleyen güvenlik kontrollerinin etrafından dolaşmanın bir yolunu buldu ve kamuya açık olmayan bazı dosyalara erişti.
ABC'nin aktardığı bilgilere göre olayda otomatik olarak internet sitelerini tarayan bir AI crawler da rol oynadı. Bu tür araçlar, yapay zekâ sistemlerinin bilgi toplaması, veri setleri oluşturması veya belirli sorulara yanıt bulması amacıyla kullanılabiliyor.
Olayın dikkat çeken unsurlarından biri, OpenAI'nin Avustralya hükümetini bilgilendirmesinin yaklaşık üç ay sürmesi oldu.
ABC'nin yayımladığı zaman çizelgesine göre:
18 Haziran: OpenAI ajanı Services Australia tarafından yönetilen Medicare istatistikportalına yetkisiz erişim sağladı.
11 Ağustos: OpenAI, yürüttüğü bir inceleme sırasında söz konusu faaliyetin farkına vardı.
1 Eylül: OpenAI CEO'su Sam Altman, San Francisco'da Richard Marles ile görüştü. Marles, görüşme sırasında olaydan haberdar edilmediğini söyledi.
10 Eylül: OpenAI, Services Australia'nın kamuya açık e-posta adresine olayla ilgili bildirim gönderdi.
11 Eylül: Services Australia bildirimi gördü.
15 Eylül: Services Australia olayı Australian Signals Directorate'in siber güvenlikbirimine bildirdi.
17 Eylül: Public Service Bakanı Katy Gallagher bilgilendirildi.
19-20 Eylül: Albanese ve Başbakanlık Ofisi olay hakkında bilgilendirildi.
22 Eylül: OpenAI ile Services Australia arasında ilk teknik görüşme gerçekleştirildi.
24 Eylül: Albanese, Sam Altman ile görüştü ve olay kamuoyuna açıklandı.
Albanese, OpenAI'nin olayı hükümete bildirme süresini eleştirdi ve bildirimin yalnızca Services Australia'nın kamuya açık posta kutusuna gönderilmesinin de kabul edilemezolduğunu söyledi
Albanese, OpenAI CEO'su Sam Altman ile yaptığı görüşmenin "açık ve doğrudan" olduğunu söyledi.
Başbakan, Avustralya'nın olayla ilgili "aşırı endişesini" Altman'a ilettiğini ve şirketin hükümeti bilgilendirmesinin çok uzun sürdüğünü ifade etti.
Albanese, Altman'ın şirketin olay karşısındaki yaklaşımının yeterli olmadığını kabul ettiğini söyledi.
OpenAI, yaptığı açıklamada olayın şirketin yapay zekâ modellerinin eğitim sürecindeki "uyumsuz model faaliyetleri" üzerine yürüttüğü kapsamlı bir inceleme sırasında tespit edildiğini belirtti.
Şirket, modellerin Avustralya hakkında sorulara ve mevcut istatistiklere yanıt bulmaya çalışırken çeşitli Avustralya hükümet siteleri ve hizmetleriyle etkileşime girdiğini söyledi.
OpenAI, modellerin bu süreçte şirket tarafından amaçlanmayan bazı işlemler gerçekleştirdiğini kabul etti.
Şirketin açıklamasına göre incelemede hasta kayıtlarına erişildiğine dair herhangi bir kanıt bulunmadı. Erişilen bilgiler arasında toplu sağlık istatistikleri ve dahili dosya adları yer aldı.
OpenAI, incelemenin sürdüğünü ve ilgili kurumlara teknik bilgi sağlayarak soruşturmalara ve olası güvenlik açıklarının giderilmesine destek verdiğini açıkladı
Başka hükümet siteleri de incelendi
Albanese, üç başka hükümet sitesinin de etkilenmiş olabileceğini söyledi: Australian Institute of Health and Welfare, New South Wales Bureau of Crime Statistics and Research ve Victorian Department of Health.
Ancak Acting Prime Minister Richard Marles daha sonra bu üç sitedeki etkileşimlerin tamamen normal olduğunu ve yalnızca kamuya açık bilgilerin erişildiğini açıkladı.
Bununla birlikte ABC'nin araştırmasına göre OpenAI ajanlarının farklı Avustralya hükümeti sitelerindeki faaliyetleriyle ilgili daha geniş bir inceleme de yürütülüyor. Araştırmacılar, bazı yapay zekâ ajanlarının Avustralya sağlık verilerine ulaşmaya yönelik girişimlerde bulunduğunu gösteren kayıtlar tespit etti. OpenAI ise bu faaliyetlerin bir bölümünün devam eden incelemeyle örtüşebileceğini belirtti; hükümet ve şirket, tüm olayların birbirine bağlı olduğunu henüz doğrulamadı
Albanese, olayın incelenmesi için özel bir taskforce kurulacağını açıkladı.
Soruşturma Başbakanlık Departmanı tarafından yürütülecek ve Australian Signals Directorate ile AI Safety Institute ile birlikte çalışacak.
Hükümet, mevcut kanıtların Services Australia'nın daha geniş ağının ele geçirildiğini göstermediğini ve bireysel Medicare bilgilerinin erişime açıldığına dair kanıt bulunmadığını belirtiyor. Ancak olayın nasıl gerçekleştiği ve yapay zekâ sistemlerinin benzer güvenlik kontrollerini aşmasının nasıl önlenebileceği konusunda inceleme devam ediyor.
Olay, bir yapay zekâ ajanının Avustralya'daki bir hükümet sisteminde yetkisiz erişim sağlayabildiğinin kamuoyuna açıklanması açısından dikkat çekiyor. Reuters, bunun hükümet sitesine yönelik bir yapay zekâ ajanı saldırısının bilinen ilk örneği olabileceğini bildirdi; bu nitelendirme henüz kesinleşmiş bir resmi sınıflandırma değil.