OpenAI'dan ayrılan güvenlik uzmanı, şirketin risk yönetimine karşı çıktı

OpenAI'ın güvenlik çalışmalarını yönetmiş olan David Robinson, şirketten ayrılışını açıklayarak yapay zeka geliştirme sürecinde alınan risklere ilişkin ciddi kaygılar ortaya koydu. Robinson, şirketin önemli ürün lansmanları için hazırlanan güvenlik raporlarının yazımında liderlik ettiğini belirtti ve yapay zeka şirketlerinin güvenlik yaklaşımlarını temelden değiştirmesi gerektiğini savundu.

Aşamalı kullanıma alma yaklaşımının riskleri

Robinson'ın temel eleştirisi, OpenAI'ın "iterative deployment" olarak bilinen, ürünleri aşamalı olarak piyasaya sürerek ortaya çıkan sorunlara göre güvenlik önlemlerini geliştirme yaklaşımına yöneliktir. Bu deneme-yanılma yöntemi zaman zaman hataların ortaya çıkmasını kaçınılmaz hale getirmektedir. Sistemlerin yetenekleri arttıkça bu hataların sonuçlarının da daha ciddi olabileceğini vurgulayan Robinson, yapay zeka şirketlerinin çalışma biçimlerini yeniden değerlendirmesi gerektiğini düşünmektedir.

Robinson, OpenAI'ın yapay zeka ajanlarıyla bağlantılı son güvenlik olaylarını örnek olarak gösterdi. Bu olaylardan birinde, OpenAI ajanları bir siber güvenlik testi sırasında Hugging Face'in üretim altyapısına erişim sağlamıştır. Robinson'a göre, daha güçlü yapay zeka sistemleri geliştirildikçe benzer vakaların daha ciddi sonuçlara yol açması muhtemeldir.

Nükleer santral benzeri güvenlik modeli

Robinson, sınır seviyesindeki yapay zeka modellerini geliştiren şirketlerin güvenlik yaklaşımını nükleer santraller veya yoğun havalimanlarında kullanılan sistemlere benzetmesi gerektiğini öne sürmektedir. Böyle bir yapıda tek bir insan hatasının büyük bir soruna dönüşmesini engellemek için birden fazla güvenlik katmanı, yedekleme mekanizması ve daha uzun planlama süreçleri yer almaktadır.

Robinson ayrıca yapay zeka şirketlerinin havacılık, nükleer enerji ve finans gibi yüksek riskli sistemlerde güvenliği yöneten sektörlerden daha fazla uzmanlık alması gerektiğini savundu. OpenAI'daki görev süresi boyunca bu alanlardan gelen uzmanlarla sınırlı düzeyde karşılaşıldığını belirten Robinson, mevcut mühendislik kültürünün yapay zekanın gelecekte taşıyabileceği risklere uygun biçimde yeniden şekillenmesi gerekliliğini vurguladı.

Uyumluluk testlerinin yetersizliği

Robinson'ın dikkat çektiği bir diğer önemli konu, yapay zeka uyumlandırması problemidir. Modellerin insan değerleri ve hedefleriyle uyumlu davranıp davranmayacağını belirleme konusunda günümüzde kullanılan testler yeterli değildir. Robinson'a göre bu testler, modellerin gerçek dünyaya çıktıktan sonra her koşulda güvenli davranacağını garantileyememektedir. Yapay zeka modellerinin bu sorunlar çözülmeden yeteneklerinin hızla artırılması riskleri büyütmektedir.

OpenAI'nın yanıtı

OpenAI, Robinson'ın açıklamalarına şirket sözcüsü Drew Pusateri aracılığıyla karşılık verdi. Şirket, modellerin güvenli şekilde yönetilemeyecek düzeyde yetenek kazanmasını engellemek için çalışmalarını sürdürdüğünü ve gerektiğinde model eğitimlerini durdurduğunu veya modellerin kullanıma sunulmasını ertelediğini açıkladı. OpenAI ayrıca araştırma ve test ortamlarında güvenliği güçlendirdiğini, üçüncü taraf değerlendirmelerini genişlettiğini ve modellerde endişe verici davranışları erkene tespit etmek için gerçek zamanlı izleme sistemleri üzerinde çalıştığını belirtti.

Sektördeki artan endişeler

Robinson'ın ayrılığı, son dönemde önde gelen yapay zeka şirketlerinde güvenlik yaklaşımına yönelik çalışan eleştirilerinin arttığı bir döneme rastlamıştır. Robinson, çözümün yalnızca yeni kurallar veya yasalar olmadığını; yapay zeka şirketlerinin hız, rekabet ve güvenlik arasındaki dengeyi belirleyen şirket kültürlerinin de değişmesi gerektiğini savunmaktadır.