Üretken Yapay Zeka Orta Doğu'ya Geliyor ve Güvenlik Değişikliklerini Yönlendiriyor - Dünyadan Güncel Teknoloji Haberleri

Üretken Yapay Zeka Orta Doğu'ya Geliyor ve Güvenlik Değişikliklerini Yönlendiriyor - Dünyadan Güncel Teknoloji Haberleri
Bu araçlar yalnızca yeni risklere karşı koymamızı sağlamakla kalmayacak, aynı zamanda daha agresif bir şekilde sola kaymamızı da sağlayacak; bu, güvenlik uygulayıcıları için konuyu ilginç kılıyor çünkü artık mühendislik ekiplerinize nasıl güvenli bir şekilde kod yazacaklarını söyleyebiliyor ve SOC ekiplerinize olanak tanıyabiliyorsunuz Çoğu zaman, konu üretken yapay zeka söz konusu olduğunda son iki yılın çok hızlı ilerlemesi nedeniyle, ekibinizdeki herhangi bir güvenlik görevlisinin bu konuda tamamen uzman olduklarını iddia edebilmesine çok şaşırırım Ancak onu “kurtarıcı” ya da sihirli değnek olarak adlandırmak, en azından bu noktada çok ileri bir adım olacaktır Ancak bu teknikler geleneksel olarak ve öncelikle yeni, orijinal içerik üretmek yerine kalıpları tanımaya ve tahminlerde bulunmaya odaklanır Muhtemelen en büyük değişim, üretken yapay zekanın demokratikleştirilmiş AI kullanımı Bu sistemler yalnızca kalıpları tanımakla kalmıyor, aynı zamanda üzerinde eğitim aldığı verileri taklit eden yeni içerik de üretebiliyor İş dünyası ve nihayetinde siber güvenlik, bu toplumsal etkinin bir uzantısı olarak etkileniyor

Konuyla ilgili bir tartışma için zamanlama uygundur ve yaklaşan Black Hat Orta Doğu konferansında Careem’in CISO’su Srijith Nair, bölgedeki GenAI hakkında bir panele liderlik edecek: “Karanlık Sanatlara Karşı Savunma: Üretken Yapay Zeka ve Kurumsal Risk“

Dark Reading, GenAI’nin tanıtımının güvenlik unsurlarını hem saldırı hem de savunma açısından tartışmak için Nair ile bir araya geldi Kullanım durumları sıradan bir kullanıcıya daha yakın olan üretken yapay zeka, günlük yaşamımızda güçlü bir dayanak noktası buldu Çeşitli alanlarda (sanat, kodlama) halihazırda aksaklıklar olduğunu görebiliyorsunuz ve siber güvenlik de bu değişimin etkisinden muaf değil Kodlama platformlarının yapay zeka tabanlı yeteneklerinin akıllıca kullanılmasıyla güvenli kod yazmak giderek kolaylaşıyor Genellikle denetimli, denetimsiz, yarı denetimli veya takviyeli öğrenme olarak sınıflandırılan modeller benzersiz özelliklere ve uygulamalara sahiptir

Srijith Nair, CISO, Careem

Karanlık Okuma: Üretken yapay zekanın ne kadar bir iş sorunu olduğunu düşünüyorsunuz, yoksa toplumda yavaş yavaş iş dünyasını ve nihayetinde siber güvenliği “istila eden” bir şey mi oluyor?

Srijith Nair: Üretken yapay zeka daha geniş bir toplumsal olgudur ve bu nedenle hayatımızın birçok yönünü etkilemektedir

Çoğu zaman, bu konuda gerçekten uygulamalı olmadıkları sürece, güvenlik ekibinizin kalitesini yükseltmekle sonuçlanır ki buna çok şaşıracağım Takımların doğru şeyi yapıp yapmadığını tespit etmeniz bekleniyor; bu nedenle, onlara “Hey, bu doğru mu?” diye meydan okuyabilecek kadar bilgi sahibi olmanız gerekir

DR: Makine öğrenimi ve yapay zeka hakkında konuşmalar son on yılın en iyi kısmında ortalıkta dolaşıyor, peki üretken yapay zeka sadece çok fazla karmaşıklık mı ekliyor?

: Bu gerçekten doğrudur

DR: Yıllardır konuştuğumuz güvenlik personeli sorunu konusunda yapay zeka kurtarıcı olabilir mi?

: Korunan sistemlerin artan karmaşıklığı, dahil olan heterojen ortamlar ve tehdit aktörleri tarafından kullanılan otomasyon ve ölçeklendirme göz önüne alındığında, yapay zekanın güvenlik kontrollerini gerekli seviyeye ölçeklendirmede ve otomatikleştirmede kesinlikle büyük bir yardımı olacaktır


Orta Doğu pazarlarında üretken yapay zekanın (GenAI) benimsenmesi, Arapça geniş dil modelinin (LLM) piyasaya sürülmesiyle artıyor İnsanların işleri güvenli bir şekilde yapmak için yoldan çekilmesine gerek kalmayacak; kullanıma hazır cephaneliklerinin bir parçası haline gelir

DR: Saldırganların bundan yararlanabileceğini ve bunu daha iyi saldırılar ve özellikle kimlik avı mesajları oluşturmak için kullanabileceğini duyduk

Üretken yapay zeka, beraberinde çok daha fazla yeni vektör ve tehdit getiriyor, ancak aynı zamanda bize çok daha fazla araç da sağlıyor İnsanların bu araçları kullanmasına ama aynı zamanda güvenli bir şekilde kullanmasına olanak tanıyan bir yaklaşım geliştirebilmek gerekiyor ve bu, şu anda çok ilginç bir zorluk Öte yandan teknoloji, güvenlik hizmetleri için daha geniş araç yetenekleri sağlar Jais Geçtiğimiz yaz ChatGPT’nin yaratıcısı OpenAI, Abu Dabi hükümetiyle bir ortaklık yaptığını duyurdu Makine öğrenimi ve modelleri hiç de yeni değil

DR: Bu teknolojilerin güvenlik açısından nasıl kullanılacağını, nasıl kullanılabileceğini ve onlarla neler yapılabileceğini öğrenecek yeterli kapasite var mı?

: Verilerinizi ve yapay zeka ekiplerinizi işleri nasıl güvenli bir şekilde yapacaklarını eğitebilmeniz gerekir, ancak aynı zamanda bir güvenlik ekibi olarak bilginizi de geliştirmeniz gerekir çünkü bir STK olarak kontrol işlevi sizsiniz Savunma tarafı ayakta kalabilecek mi?

: STK’ların yeni tür teknolojik yenilikleri etkinleştirmenin ve bunlara uyum sağlamanın yollarını bulması gerekiyor daha proaktif olmak ve daha iyi ölçeklenmek vb

Üretken yapay zeka bir adım daha ileri gidiyor

DR: Siber güvenliğin Üretken Yapay Zeka trendine ne kadar ayak uydurduğunu düşünüyorsunuz?

: Dolandırıcılığa imkan vermekten belirli kişilere yönelik kimlik avı saldırıları gerçekleştirmeyi kolaylaştırmaya kadar siber güvenlik ortamını birçok yönden etkileyecek Jüri bunun bir evrim mi yoksa devrim mi olduğu konusunda kararsız; bunu zaman gösterecek



siber-1