แฮกเกอร์ใช้ AI สำหรับเจตนาร้ายหรือไม่

เนื้อหา

• แฮ็ค AI
• ต่อสู้กลับ
• ไม่มีข้อบกพร่องไม่มีความเครียด - คู่มือแบบเป็นขั้นตอนเพื่อสร้างซอฟต์แวร์ที่เปลี่ยนแปลงชีวิตโดยไม่ทำลายชีวิตของคุณ

ที่มา: Sdecoret / Dreamstime.com

Takeaway:

AI มีศักยภาพในการปกป้องข้อมูลอย่างที่ไม่เคยมีมาก่อน แต่ยังมีศักยภาพในการขโมยข้อมูลอย่างที่ไม่เคยมีมาก่อน ผู้เชี่ยวชาญด้านความปลอดภัยและแฮกเกอร์พยายามใช้ประโยชน์จากเทคโนโลยีนี้ให้ได้มากที่สุด

ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์กำลังมองหาปัญญาประดิษฐ์ (AI) ด้วยความกระตือรือร้นและความกังวลใจ ในอีกด้านหนึ่งมันมีศักยภาพที่จะเพิ่มเลเยอร์การป้องกันใหม่ทั้งหมดสำหรับข้อมูลที่สำคัญและโครงสร้างพื้นฐาน แต่ในอีกแง่หนึ่งมันสามารถใช้เป็นอาวุธอันทรงพลังเพื่อป้องกันการป้องกันเหล่านั้นโดยไม่ทิ้งร่องรอยใด ๆ

เช่นเดียวกับเทคโนโลยีใด ๆ AI มีทั้งจุดแข็งที่จะยกระดับและจุดอ่อนที่สามารถใช้ประโยชน์ได้ ความท้าทายสำหรับผู้เชี่ยวชาญด้านความปลอดภัยในปัจจุบันคือการก้าวไปข้างหน้าคนร้ายซึ่งควรเริ่มต้นด้วยความเข้าใจที่ชัดเจนว่า AI สามารถใช้เป็นอาวุธข้อมูลที่น่ารังเกียจได้อย่างไร

แฮ็ค AI

สำหรับสิ่งหนึ่ง Nicole Kobie ของ Wired กล่าวว่าเราควรตระหนักว่าเช่นเดียวกับสภาพแวดล้อมข้อมูลใด ๆ AI สามารถถูกแฮ็กได้ หัวใจของกระบวนการที่ชาญฉลาดนั้นมีอัลกอริธึมและอัลกอริธึมตอบสนองต่อข้อมูลที่ได้รับ นักวิจัยกำลังแสดงให้เห็นว่าเครือข่ายประสาทสามารถหลอกให้คิดว่ารูปเต่าเป็นภาพของปืนไรเฟิลและสติกเกอร์ง่าย ๆ บนป้ายหยุดรถทำให้เกิดการปกครองตนเองในการขับรถเข้าไปในสี่แยก การจัดการแบบนี้ไม่เพียงเป็นไปได้หลังจากติดตั้ง AI แล้ว แต่เมื่อได้รับการฝึกฝนเช่นกันอาจทำให้แฮกเกอร์สามารถทำลายความเสียหายทุกประเภทโดยไม่ต้องสัมผัสโครงสร้างพื้นฐานขององค์กรลูกค้า

ในขณะที่มีความไม่แน่นอนของเนื้อหาที่ไม่ถูกต้องซึ่งมีเป้าหมายเพียงเพื่อทำร้ายผู้คนและก่อให้เกิดความหวาดกลัว แต่รางวัลที่แท้จริงในเกมแฮ็คคือการตรวจจับด้วยรหัสผ่านและความเป็นไปได้ทั้งหมดของการขโมย / กรรโชก เมื่อปีที่แล้วสถาบันเทคโนโลยี Stevens ได้สร้างโปรแกรมเพื่อแสดงให้เห็นถึงพลังที่ AI นำมาสู่กระบวนการนี้ นักวิจัยได้ผสมผสานโปรแกรมถอดรหัสรหัสผ่านที่รู้จักกันดีกับอัลกอริธึมอัจฉริยะที่ได้รับการฝึกฝนให้คาดเดาการรวมตัวอักษรและตัวเลขพิเศษรวมถึงภายในไม่กี่นาทีพวกเขาได้รับรหัสผ่าน LinkedIn มากกว่า 10 ล้านรหัส เมื่อมีการค้นพบรหัสผ่านจำนวนมากขึ้นพวกเขาสามารถใช้ฝึกอบรมอัลกอริทึมการเรียนรู้เหล่านี้ได้ดังนั้นจึงมีประสิทธิภาพมากขึ้นเมื่อเวลาผ่านไปแม้ว่าจะใช้มาตรการป้องกันทั่วไปเช่นการเปลี่ยนรหัสผ่านเป็นประจำก็ตาม (สำหรับข้อมูลเพิ่มเติมเกี่ยวกับรหัสผ่านโปรดดูที่การรักษาความปลอดภัย: การเปลี่ยนข้อกำหนดรหัสผ่านง่ายขึ้นสำหรับผู้ใช้)

เป็นไปได้ไหมว่าเครื่องมือเหล่านี้กำลังถูกใช้โดยอาชญากรใต้ดิน? ด้วยบริการ AI บนระบบคลาวด์ที่พร้อมใช้งานและเว็บที่มืดทำหน้าที่เป็นสำนักหักบัญชีสำหรับซอฟต์แวร์ crypto ทุกประเภทมันจะน่าแปลกใจถ้านี่ไม่ใช่กรณี Darktrace บริษัท วิเคราะห์ภัยคุกคามกล่าวว่ากำลังเห็นสัญญาณแรกเริ่มของโปรแกรมมัลแวร์ยอดนิยมเช่น TrickBot ที่แสดงการรับรู้ร่วมในภารกิจของพวกเขาเพื่อขโมยข้อมูลและล็อคระบบ พวกเขาดูเหมือนจะรู้ว่าต้องหาอะไรและจะหามันอย่างไรโดยศึกษาโครงสร้างพื้นฐานเป้าหมายแล้วตัดสินใจด้วยตนเองว่าวิธีที่ดีที่สุดในการหลีกเลี่ยงการตรวจจับคืออะไร ซึ่งหมายความว่าโปรแกรมไม่ต้องการรักษาการติดต่อกับแฮ็กเกอร์อีกต่อไปผ่านเซิร์ฟเวอร์คำสั่งและการควบคุมหรือวิธีการอื่น ๆ ซึ่งโดยปกติแล้วจะเป็นหนึ่งในวิธีที่มีประสิทธิภาพสูงสุดในการติดตามผู้กระทำความผิด

ในขณะเดียวกันกลโกงฟิชชิ่งแบบดั้งเดิมเริ่มมีลักษณะเป็นของแท้มากขึ้นเนื่องจากเครื่องมือ AI สามารถทำให้การปรากฏตัวครั้งแรกนั้นมาจากแหล่งที่เชื่อถือได้ ตัวอย่างเช่นการประมวลผลภาษาธรรมชาติออกแบบมาเพื่อเลียนแบบการพูดของมนุษย์ เมื่อรวมกับข้อมูลที่มีอยู่อย่างง่ายดายเช่นชื่อผู้บริหารและที่อยู่มันสามารถสร้างความผิดพลาดที่เป็นจริงจนสามารถหลอกได้แม้กระทั่งเพื่อนร่วมงานที่ใกล้ชิด ผู้บริโภคโดยเฉลี่ยมีความอ่อนไหวอย่างเท่าเทียมกันเนื่องจากความสามารถของ AI ในการขุดข้อมูลทุกประเภทเพื่อใส่ข้อมูลส่วนบุคคลที่เป็นการฉ้อโกง

ต่อสู้กลับ

อย่างไรก็ตามดังกล่าวข้างต้น AI เป็นถนนสองทาง แม้ว่ามันอาจทำให้แฮกเกอร์สามารถเรียกใช้วงกลมรอบระบบรักษาความปลอดภัยแบบดั้งเดิม แต่ก็ทำให้ระบบรักษาความปลอดภัยในปัจจุบันมีประสิทธิภาพมากขึ้น จากรายงานของวารสารประกันภัยระบุว่า Microsoft สามารถสกัดการพยายามแฮ็คของ Azure cloud เมื่อเร็ว ๆ นี้เมื่อระบอบการรักษาความปลอดภัย AI-infused เห็นการบุกรุกที่ผิดพลาดจากไซต์ระยะไกล ความพยายามดังกล่าวจะไม่มีใครสังเกตเห็นภายใต้โปรโตคอลที่อิงกับกฎก่อนหน้านี้ แต่ความสามารถของ AI ในการเรียนรู้และปรับตัวให้เข้ากับภัยคุกคามใหม่ควรปรับปรุงความสามารถขององค์กรในการปกป้องตัวเองอย่างมากแม้ว่าข้อมูลและโครงสร้างพื้นฐาน สิ่ง ผู้ให้บริการคลาวด์ hyperscale ชั้นนำทั้งหมดกำลังใช้งาน AI อย่างจริงจังบนฐานความปลอดภัยของพวกเขาเนื่องจากยิ่งดำเนินการเร็วขึ้นเท่าไรมันก็ยิ่งจะได้เรียนรู้มากขึ้นเมื่อถึงเวลาที่ต้องเผชิญกับแฮ็กที่เสริมพลัง AI (หากต้องการเรียนรู้เพิ่มเติมดูที่ความก้าวหน้าของ AI ส่งผลต่อความปลอดภัยการรักษาความปลอดภัยไซเบอร์และการแฮ็ก)

ด้วยวิธีนี้ AI เป็นเพียงการยกระดับล่าสุดในสงครามการรักษาความปลอดภัยแบบ tit-for-tat ที่ดำเนินมาหลายทศวรรษ เมื่อมีภัยคุกคามใหม่ ๆ เกิดขึ้นการป้องกันใหม่ ๆ ก็เพิ่มขึ้นเพื่อตอบสนองพวกเขาด้วยเทคโนโลยีพื้นฐานเดียวกันที่เติมเชื้อเพลิงให้ทั้งสองฝ่าย

ไม่มีข้อบกพร่องไม่มีความเครียด - คู่มือแบบเป็นขั้นตอนเพื่อสร้างซอฟต์แวร์ที่เปลี่ยนแปลงชีวิตโดยไม่ทำลายชีวิตของคุณ

คุณไม่สามารถพัฒนาทักษะการเขียนโปรแกรมของคุณเมื่อไม่มีใครใส่ใจคุณภาพของซอฟต์แวร์

หากมีสิ่งใด AI จะเร่งกระบวนการนี้ในขณะเดียวกันก็ลบกิจกรรมเชิงปฏิบัติจำนวนมากออกจากผู้ปฏิบัติงานมนุษย์ สิ่งนี้จะเป็นสิ่งที่ดีหรือไม่ดีสำหรับนักรบไซเบอร์ในปัจจุบันหรือไม่? น่าจะเป็นการผสมผสานกันระหว่างทั้งหมวกขาวและหมวกดำที่มอบการเข้ารหัสและการป้องกันและการโจมตีรวมถึงการมุ่งเน้นด้านกลยุทธ์ของสงครามไซเบอร์ยุคใหม่