Üretken Yapay Zeka Orta Doğu'ya Geliyor ve Güvenlik Değişikliklerini Yönlendiriyor - Dünyadan Güncel Teknoloji Haberleri

Üretken Yapay Zeka Orta Doğu'ya Geliyor ve Güvenlik Değişikliklerini Yönlendiriyor - Dünyadan Güncel Teknoloji Haberleri
Makine öğrenimi ve modelleri hiç de yeni değil İnsanların işleri güvenli bir şekilde yapmak için yoldan çekilmesine gerek kalmayacak; kullanıma hazır cephaneliklerinin bir parçası haline gelir

DR: Yıllardır konuştuğumuz güvenlik personeli sorunu konusunda yapay zeka kurtarıcı olabilir mi?

: Korunan sistemlerin artan karmaşıklığı, dahil olan heterojen ortamlar ve tehdit aktörleri tarafından kullanılan otomasyon ve ölçeklendirme göz önüne alındığında, yapay zekanın güvenlik kontrollerini gerekli seviyeye ölçeklendirmede ve otomatikleştirmede kesinlikle büyük bir yardımı olacaktır İş dünyası ve nihayetinde siber güvenlik, bu toplumsal etkinin bir uzantısı olarak etkileniyor


Orta Doğu pazarlarında üretken yapay zekanın (GenAI) benimsenmesi, Arapça geniş dil modelinin (LLM) piyasaya sürülmesiyle artıyor

Srijith Nair, CISO, Careem

Karanlık Okuma: Üretken yapay zekanın ne kadar bir iş sorunu olduğunu düşünüyorsunuz, yoksa toplumda yavaş yavaş iş dünyasını ve nihayetinde siber güvenliği “istila eden” bir şey mi oluyor?

Srijith Nair: Üretken yapay zeka daha geniş bir toplumsal olgudur ve bu nedenle hayatımızın birçok yönünü etkilemektedir İnsanların bu araçları kullanmasına ama aynı zamanda güvenli bir şekilde kullanmasına olanak tanıyan bir yaklaşım geliştirebilmek gerekiyor ve bu, şu anda çok ilginç bir zorluk Jais Geçtiğimiz yaz ChatGPT’nin yaratıcısı OpenAI, Abu Dabi hükümetiyle bir ortaklık yaptığını duyurdu Genellikle denetimli, denetimsiz, yarı denetimli veya takviyeli öğrenme olarak sınıflandırılan modeller benzersiz özelliklere ve uygulamalara sahiptir

DR: Bu teknolojilerin güvenlik açısından nasıl kullanılacağını, nasıl kullanılabileceğini ve onlarla neler yapılabileceğini öğrenecek yeterli kapasite var mı?

: Verilerinizi ve yapay zeka ekiplerinizi işleri nasıl güvenli bir şekilde yapacaklarını eğitebilmeniz gerekir, ancak aynı zamanda bir güvenlik ekibi olarak bilginizi de geliştirmeniz gerekir çünkü bir STK olarak kontrol işlevi sizsiniz

DR: Siber güvenliğin Üretken Yapay Zeka trendine ne kadar ayak uydurduğunu düşünüyorsunuz?

: Dolandırıcılığa imkan vermekten belirli kişilere yönelik kimlik avı saldırıları gerçekleştirmeyi kolaylaştırmaya kadar siber güvenlik ortamını birçok yönden etkileyecek Bu sistemler yalnızca kalıpları tanımakla kalmıyor, aynı zamanda üzerinde eğitim aldığı verileri taklit eden yeni içerik de üretebiliyor Jüri bunun bir evrim mi yoksa devrim mi olduğu konusunda kararsız; bunu zaman gösterecek

Üretken yapay zeka bir adım daha ileri gidiyor

Üretken yapay zeka, beraberinde çok daha fazla yeni vektör ve tehdit getiriyor, ancak aynı zamanda bize çok daha fazla araç da sağlıyor Muhtemelen en büyük değişim, üretken yapay zekanın demokratikleştirilmiş AI kullanımı Kodlama platformlarının yapay zeka tabanlı yeteneklerinin akıllıca kullanılmasıyla güvenli kod yazmak giderek kolaylaşıyor

DR: Makine öğrenimi ve yapay zeka hakkında konuşmalar son on yılın en iyi kısmında ortalıkta dolaşıyor, peki üretken yapay zeka sadece çok fazla karmaşıklık mı ekliyor?

: Bu gerçekten doğrudur Öte yandan teknoloji, güvenlik hizmetleri için daha geniş araç yetenekleri sağlar Ancak bu teknikler geleneksel olarak ve öncelikle yeni, orijinal içerik üretmek yerine kalıpları tanımaya ve tahminlerde bulunmaya odaklanır Bu araçlar yalnızca yeni risklere karşı koymamızı sağlamakla kalmayacak, aynı zamanda daha agresif bir şekilde sola kaymamızı da sağlayacak; bu, güvenlik uygulayıcıları için konuyu ilginç kılıyor çünkü artık mühendislik ekiplerinize nasıl güvenli bir şekilde kod yazacaklarını söyleyebiliyor ve SOC ekiplerinize olanak tanıyabiliyorsunuz Savunma tarafı ayakta kalabilecek mi?

: STK’ların yeni tür teknolojik yenilikleri etkinleştirmenin ve bunlara uyum sağlamanın yollarını bulması gerekiyor Takımların doğru şeyi yapıp yapmadığını tespit etmeniz bekleniyor; bu nedenle, onlara “Hey, bu doğru mu?” diye meydan okuyabilecek kadar bilgi sahibi olmanız gerekir Çoğu zaman, konu üretken yapay zeka söz konusu olduğunda son iki yılın çok hızlı ilerlemesi nedeniyle, ekibinizdeki herhangi bir güvenlik görevlisinin bu konuda tamamen uzman olduklarını iddia edebilmesine çok şaşırırım



siber-1

daha proaktif olmak ve daha iyi ölçeklenmek vb Çeşitli alanlarda (sanat, kodlama) halihazırda aksaklıklar olduğunu görebiliyorsunuz ve siber güvenlik de bu değişimin etkisinden muaf değil

DR: Saldırganların bundan yararlanabileceğini ve bunu daha iyi saldırılar ve özellikle kimlik avı mesajları oluşturmak için kullanabileceğini duyduk Ancak onu “kurtarıcı” ya da sihirli değnek olarak adlandırmak, en azından bu noktada çok ileri bir adım olacaktır Kullanım durumları sıradan bir kullanıcıya daha yakın olan üretken yapay zeka, günlük yaşamımızda güçlü bir dayanak noktası buldu

Konuyla ilgili bir tartışma için zamanlama uygundur ve yaklaşan Black Hat Orta Doğu konferansında Careem’in CISO’su Srijith Nair, bölgedeki GenAI hakkında bir panele liderlik edecek: “Karanlık Sanatlara Karşı Savunma: Üretken Yapay Zeka ve Kurumsal Risk“

Dark Reading, GenAI’nin tanıtımının güvenlik unsurlarını hem saldırı hem de savunma açısından tartışmak için Nair ile bir araya geldi

Çoğu zaman, bu konuda gerçekten uygulamalı olmadıkları sürece, güvenlik ekibinizin kalitesini yükseltmekle sonuçlanır ki buna çok şaşıracağım