Akıllı asistanlar telefonlarımızda, ev hoparlörlerinde ve otomobillerde iyice kendilerine yer etmeye başladılar. Android ile birlikte gelen Google Asistan, iOS ile birlikte gelen Siri ve Amazon’un ev tipi hoparlörler ile otomobiller için geliştirdiği Alexa, insanlar tarafından kullanılan en gelişmiş yapay zekalar konumundalar. Hatta Google Asistan, geçtiğimiz gün firmanın düzenlediği bir konferansta telefon görüşmesi yaparak, karşısındaki insanı kandırabildi.
Geçtiğimiz iki yıl boyunca Çin ve ABD’deki araştırmacılar, Apple'ın Siri'sine, Amazon’un Alexa'sına ve Google’ın Asistanı’na insan kulağıyla fark edilmeyen gizli komutlar göndermeye başladılar. Üniversite laboratuvarlarında gerçekleştirilen deneylerle araştırmacılar, telefon numaralarını çevirmeyi, akıllı ev hoparlörleri üzerinden arama yapmayı, internette dolaşmayı başardılar. Bu komutlar kötü emellere alet edildiğinde, insanların ruhu bile duymadan kredi kartlarıyla alışveriş yapılabilir, daha pek çok kötü senaryo çizilebilir.
California, Berkeley ve Georgetown Üniversitelerinden bir grup öğrenci, 2016 yılında, akıllı cihazların uçak modunu bu gizli komutlarla açabilmişlerdi. Yapılan son araştırmanın öne sürdüğü şey ise bu komutların sıradan müzikler arasına gizlenebilmeleri. Örneğin evinize gelip sesli asistandan müzik açmasını istediniz. O sırada şarkı içine yerleştirilen komutlar, asistanınızın internet alışverişi yapmasını sağlayabilir, ruhunuz bile duymadan.
Bu çalışm, her ne kadar ilerleme kaydederse etsin, yapay zekaların kolayca aldatılabileceklerini de ortaya koyuyor. Bilgisayarları, bir resim üzerinde ufak bir oynama yaparak bir kedinin aslında uçak olduğu yönünde işletebilirsiniz. Bilgisayaların görüş sistemleriyle uzaktan sesli ve gizli komutlar vererek oynayabilir, bu sırada yolda giden otonom sürüş sistemine sahip bir aracın görüşünü bozabilirsiniz.
Sesle etkinleştirilen sistemlerin çoğaltılması halinde aklınıza daha çok şiddet dolu senaryo getirebilirsiniz. Araştırmalara göre Siri, Google Asistan ve Alexa’nın yüklü olduğu cihazların sayısı 2021’de insan nüfusunu geçecek.
Amazon, Google ve Apple, olası tehditler karşısında gerekli önlem için ses tanıma gibi özellikleri geliştirdiklerini söylüyorlar.
Umarız sesli asistanlar başımıza daha fazla iş açmazlar. Aksi takdirde durum pek de parlak görünmüyor.
