เทคโนโลยี AI ใหม่ๆ และผลกระทบต่อความปลอดภัยทางไซเบอร์

Scott Schlee :
วันที่ 11 กันยายน 2024 ฉันเป็นเจ้าภาพของคุณ Scott Schlee และคุณกำลังฟัง Skyhigh Security Cloudcast วันนี้ ฉันได้พูดคุยกับ Sekhar Sarukkai นักเทคโนโลยี ผู้ประกอบการ นักการศึกษา และที่ปรึกษา Skyhigh Security เพื่อสำรวจว่าบริษัทต่างๆ สามารถใช้ประโยชน์จากปัญญาประดิษฐ์เพื่อขับเคลื่อนผลผลิตและเพิ่มประสิทธิภาพมาตรการรักษาความปลอดภัยเพื่อรับมือกับภัยคุกคามทางไซเบอร์ที่เปลี่ยนแปลงไปได้อย่างไร

เราจะหารือเกี่ยวกับกลยุทธ์เชิงปฏิบัติและภูมิทัศน์ที่เปลี่ยนแปลงไปของ AI ที่สามารถช่วยให้องค์กรต่างๆ ก้าวไปข้างหน้าในโลกที่เปลี่ยนแปลงอย่างรวดเร็วนี้ได้ Sekhar ขอบคุณที่มาร่วมงานกับเราในวันนี้ คุณสบายดีไหม

เซขาร์ สารุกไก:
โอ้ ฉันสบายดี ขอบคุณมาก สก็อตต์ ที่ให้ฉันมาที่นี่

Scott Schlee :
เซคฮาร์ คุณช่วยบอกตำแหน่งของคุณให้ฉันฟังได้ไหม Skyhigh Security -

เซขาร์ สารุกไก:
ใช่แล้ว เป็นเรื่องที่น่าสนใจ ฉันเป็นหนึ่งใน Sekhar ของ Skyhigh Networks อย่างที่คุณทราบ และหลังจากที่ McAfee เข้าซื้อกิจการ ฉันก็ทำงานที่ McAfee เป็นเวลาสองสามปี จากนั้นก็ลาออกเพื่อไปทำอย่างอื่น เช่น สอนหนังสือ ซึ่งฉันทำงานด้านความปลอดภัยทางไซเบอร์ที่ UC Berkeley และเคยร่วมงานกับ VC มากมาย

แต่เมื่อไม่นานมานี้ เมื่อ Vishal ซีอีโอคนใหม่เข้ามา เขาก็ได้ติดต่อไปเพื่อขอคำปรึกษา ซึ่งก็เหมือนกับว่ากำลังช่วยเหลือเกี่ยวกับแนวโน้มและปัญหาใหม่ๆ ในอุตสาหกรรมนี้อยู่ และนั่นคือวิธีที่ผมติดต่อกับ Skyhigh ในตอนนี้ โดยพื้นฐานแล้วผมเป็นเพียงที่ปรึกษาเท่านั้น

Scott Schlee :
ฉันรู้ว่าเราดีใจมากที่ได้คุณเป็นส่วนหนึ่งของทีม และยิ่งไปกว่านั้น ฉันยังดีใจที่คุณมาร่วมพูดคุยเกี่ยวกับ AI แนวโน้มในอนาคต และอะไรในวันนี้ Skyhigh Security กำลังทำอะไรกับ AI และฉันหวังว่าบางทีเราคงใช้เวลาสักสองสามนาทีพูดคุยกันก่อนว่า เทคโนโลยี AI ใหม่ๆ อะไรบ้างที่น่าจะช่วยกำหนดอนาคตของระบบความปลอดภัยทางไซเบอร์?

เซขาร์ สารุกไก:
นั่นเป็นคำถามเชิงลึกที่สามารถนำมาพูดคุยกันได้ แต่พวกเราทุกคน ฉันคิดว่าโลกนี้ โลกแห่งไอที เปลี่ยนแปลงไปอย่างน้อยเมื่อสองสามปีก่อน เมื่อ ChatGPT เพิ่งเริ่มได้รับความนิยม ใช่ไหม? มีบางอย่างที่ผู้คนรู้สึกในใจว่ามันแตกต่างออกไป และมีการใช้งานที่แตกต่างกันมากมาย ซึ่งก่อให้เกิดนวัตกรรมใหม่ๆ มากมายในพื้นที่นี้

และฉันคิดว่ามันจะเติบโตต่อไป มีบางพื้นที่สำคัญที่ฉันคิดว่ามีเสถียรภาพและผู้คนรู้ว่ามันจะพัฒนาไปในทิศทางใด เช่น โมเดลพื้นฐาน แต่ AI แบบเปิดและคนอื่นๆ กำลังทำอะไรอยู่ ฉันคิดว่ามันมีเส้นทางที่มั่นคง มีงานที่น่าสนใจมากมายเกี่ยวกับมัลติโมดัล ซึ่งไม่ใช่แค่ข้อความเท่านั้น ซึ่งเป็นที่ที่มันถูกสร้างขึ้น แต่ยังมีภาพวิดีโอเสียงด้วย

น่าสนใจว่ามันเปลี่ยนไปมากแค่ไหน วันนี้คุณสามารถให้คำกระตุ้น และผลลัพธ์ คลิปวิดีโอของพื้นที่ในจินตนาการ ใช่ไหม? ซึ่งดูสมจริงมาก และฉันคิดว่ามีงานมากมายในพื้นที่นั้น ซึ่งจะพัฒนาต่อไป และเนื่องจาก deep fake เป็นหนึ่งในนั้น การใช้เทคโนโลยีในทางที่ผิด ซึ่งฉันสามารถทำให้ดูเหมือนว่าฉันเคยชิน พระเจ้ากำลังบอกอะไรบางอย่างที่พระองค์ไม่เคยทำ และจะเป็นเรื่องยากมากที่จะแยกแยะสิ่งนั้นจากความเป็นจริง นั่นคือ AI แบบมัลติโหมดทั้งหมดที่มีสิ่งเจ๋งๆ มากมายที่คุณทำได้ แต่ยังมี คุณรู้ไหมว่าปัญหาความปลอดภัยที่มาพร้อมกับมัน พื้นที่ขนาดใหญ่ด้านอื่นที่ฉันอยากจะพูดคือ มันได้รับความสนใจเมื่อเร็วๆ นี้ ในช่วงสองสามไตรมาสที่ผ่านมา ฉันอยากจะบอกว่า สองสามไตรมาสนั้นเกี่ยวกับ AI แบบเอเจนต์ ซึ่งก็คือ ถ้าคุณไปที่ ChatGPT คุณขอให้มันสรุปเอกสารหรือภาพยนตร์ บางทีมันอาจทำได้ดี แต่ถ้าคุณต้องการขอให้มันจองตั๋วไปดูหนัง ให้ประสานปฏิทินกับเพื่อนของคุณเพื่อไปดู

มันคงทำแบบนั้นไม่ได้ และนั่นก็ทำให้เกิดวิวัฒนาการใหม่ในการขยายหลักสูตร LLM และ AI ให้สามารถดำเนินการได้จริง ดังนั้นนี่คือโมเดลการดำเนินการขนาดใหญ่ และมีการใช้งานในองค์กรจำนวนมาก หรือกรณีการใช้งานที่ส่งผลต่อมูลค่ามหาศาลของเทคโนโลยี AI เหล่านี้

และนี่คือสิ่งที่บางคนเรียกว่า SaaS รุ่นถัดไป ใช่ไหม? ในปัจจุบัน หากใครก็ตามพูดถึง SaaS ก็จะเหมือนกับ Office 365 หรือ Salesforce หรือโลกทั้งใบ มันคือซอฟต์แวร์ในรูปแบบบริการ ทุกสิ่งทุกอย่างที่เคยต้องดาวน์โหลดหรือปรับใช้ในเซิร์ฟเวอร์ของคุณ คุณจะใช้งานมันในรูปแบบบริการ

สิ่งที่รุ่นต่อไปของระบบเอเจนต์และระบบอื่นๆ จะพัฒนาขึ้นมาเพื่อช่วยสร้างสิ่งที่เรียกว่า บริการในรูปแบบซอฟต์แวร์ ซึ่งถ้าคุณลองดูสิ่งที่พนักงานขายทำในปัจจุบัน Salesforce ก็มี พวกเขาใช้ Salesforce เป็นวิธีทำให้มีประสิทธิผลมากขึ้น และดำเนินการปิดการขายหรือดำเนินแคมเปญหรืออะไรก็ตามที่คนรุ่นต่อไปจะทำ คือ ก้าวต่อไป ซึ่งไม่ใช่

แค่จะคล้ายกับ Copilot แต่จะทำให้เป็นระบบอัตโนมัติที่คุณสามารถมีตัวแทนขายเสมือนจริงได้ ใช่ไหม? ดังนั้น แทนที่จะช่วยมนุษย์ทำงานให้สำเร็จลุล่วงได้ดีขึ้น ระบบนี้จะสามารถทำสิ่งที่มนุษย์ทำได้ ใช่ไหม? และนั่นคือระบบอัตโนมัติ นั่นคือการวิเคราะห์งาน

และแน่นอนว่ามันมีทั้งดีและไม่ดี ฉันไม่รู้ว่ามันจะจบลงที่ไหนในแง่ของสังคม งาน และผู้คน แต่การเคลื่อนไหวเพื่อพูดว่า โอเค ฉันต้องการทำบางสิ่งบางอย่างให้สำเร็จ ตั้งเป้าหมาย และสามารถแยกมันออกเป็นงานที่ต้องทำให้เสร็จ และดำเนินการตามนั้นจริงๆ

และการทำงานให้เสร็จสิ้นเป็นสิ่งที่พัฒนาอย่างรวดเร็ว ฉันคิดว่ามีตัวอย่างที่น่าสนใจมากมายที่คุณสามารถดูได้ทางออนไลน์ มีตัวอย่างหนึ่งของนักพัฒนาและตัวแทนนักพัฒนา หากคุณต้องการ และคุณสามารถค้นหาวิดีโอใน YouTube สำหรับ Devin Devin เป็นบุคคลสำคัญของนักพัฒนา แต่การได้เห็นการทำงานแบบเรียลไทม์นั้นน่าสนใจมาก โดยสร้างโค้ด

และหากมีข้อยกเว้นหรือข้อผิดพลาดใดๆ ระบบจะทำการค้นหาแหล่งข้อมูลสำหรับนักพัฒนาซอฟต์แวร์หรือที่อื่นๆ ที่อาจจะไปค้นหาและแก้ไขปัญหา อ่านข้อมูลและปรับใช้ข้อมูลทั้งหมด ดังนั้นแนวคิดทั้งหมดในการบรรลุระบบอัตโนมัติจึงเป็นสิ่งที่เป็นจริงและสามารถส่งผลกระทบอย่างลึกซึ้งต่อองค์กร

Scott Schlee :
ฉันเดาว่าคนจำนวนมาก นักพัฒนาอย่างฉัน คงจะมองเรื่องนี้ในมุมหนึ่ง หรืออาจมองได้สองแง่สองง่าม คือ กลัวว่าสิ่งนี้จะมาแย่งงานของฉันไป หรือฉันควรจะมองว่าสิ่งนี้จะเป็นตัวช่วยที่ทำให้ฉันทำงานได้มีประสิทธิภาพมากขึ้น?

เซขาร์ สารุกไก:
ใช่แล้ว และนั่นคือคำถามล้านเหรียญใช่ไหม?

ฉันไม่รู้ว่ามันจะจบลงที่ไหน และบางครั้งคุณเห็นตัวอย่างบางส่วน คุณบอกว่า คุณรู้ไหมว่านั่นไม่เป็นความจริง มันทำไม่ได้จริงๆ อย่างที่โปรแกรมเมอร์ผู้เชี่ยวชาญจะทำได้ แล้วคุณก็เห็นตัวอย่างถัดไปที่มันว้าว มันทำได้จริงๆ ใช่แล้ว หรือคุณไม่จำเป็นต้องมีคน 20 คนในทีม บางทีอาจมีนักพัฒนาเพียงคนเดียว

ใครสามารถสร้างสตาร์ทอัพจากศูนย์และพัฒนาโค้ดได้ด้วยเทคโนโลยีเหล่านี้บ้าง

Scott Schlee :
ฉันรู้ว่ามีคำกล่าวที่ว่า AI ในปัจจุบันนั้นโง่ที่สุดเท่าที่เคยมีมา มันจะยิ่งฉลาดขึ้นและดีขึ้น ฉันจึงเห็นว่าในช่วง 3 ปีที่ผ่านมา 6 เดือนหรือ 1 ปี เราทุกคนต่างเห็นความก้าวหน้าของ AI อย่างมากจากช่วงเริ่มต้น

เซขาร์ สารุกไก:
แน่นอน สก็อตต์ และฉันคิดว่ามันขึ้นอยู่กับว่าคุณลุกจากเตียงด้านไหนด้วย ฉันคิดว่ามันเป็นโอกาสดีหรือไม่ก็น่ากังวล

Scott Schlee :
แล้วความก้าวหน้าของ AI ในยุคนี้เป็นยังไงบ้าง เรากำลังพูดถึง AI แบบเปิดที่ใครๆ ก็เข้าถึงได้และใช้มันเพื่อจุดประสงค์ที่ดีหรือร้ายก็ได้

ความก้าวหน้าเหล่านี้จะมีผลกระทบต่อความปลอดภัยทางไซเบอร์ในแง่ของภัยคุกคามและการป้องกันอย่างไร

เซขาร์ สารุกไก:
ใช่แล้ว นี่ก็เกิดขึ้นอีกครั้ง มันพัฒนาอย่างรวดเร็วมากจนคุณได้เห็นปัญหาต่างๆ มากมายแล้ว ซึ่งคุณคงไม่คิดว่าจะเกิดขึ้นจริงเมื่อสองปีก่อน และฉันคิดว่าในฐานะผู้ปฏิบัติงานด้านความปลอดภัยทางไซเบอร์ งานนี้จะต้องยากขึ้นเรื่อยๆ

ฉันคิดว่าเป็นเพราะหลายๆ อย่าง ในปัจจุบัน หากคุณลองถามผู้คนเกี่ยวกับความปลอดภัยในบริบทของ GNI จะเห็นว่ามีบริษัทสตาร์ทอัพจำนวนมาก และแม้แต่บริษัทที่ก่อตั้งมานานอย่าง Skyhigh คุณก็กำลังมองดูว่าการรักษาความปลอดภัย LLM เองหมายความว่าอย่างไร ใช่ไหม มีแนวคิดเรื่องการเจลเบรก หรือคุณจะโน้มน้าวให้โมเดลให้คำตอบที่ไม่เหมาะสมได้อย่างไร สิ่งต่างๆ เช่นนั้น

นอกจากนี้ยังมีข้อกังวลเกี่ยวกับการรั่วไหลของข้อมูล โดยมีตัวอย่างคลาสสิกของบริษัท Fortune 100 ที่เงินเดือนของ CEO ถูกเปิดเผยโดยแชทบอทซึ่งถูกสร้างขึ้นบนแพลตฟอร์ม JNI สิ่งต่างๆ เช่นนี้มีความสำคัญมากและเป็นสิ่งที่ผู้คนจำนวนมากกำลังดำเนินการอยู่ และจะยังคงขยายไปยังแพลตฟอร์มเช่น Skyhigh SSE หรือร่วมมือกับสตาร์ทอัพใหม่ๆ เพื่อช่วยเติมเต็มช่องว่างตามธรรมชาตินั้น

แต่ยังมีปัญหาอื่นๆ ที่เกิดขึ้นจากฝั่งรุกด้วยใช่ไหม นี่คือกรณีตัวอย่างคลาสสิกที่ผู้เล่นที่ไม่ดีปรับตัวเข้ากับการเปลี่ยนแปลงเหล่านี้ได้เร็วกว่า ใช่ไหม ฉันจะยกตัวอย่างคลาสสิกให้คุณฟัง เราพูดถึงเดวินแล้วใช่ไหม ฉันจะยกตัวอย่างนั้นให้ เดวิน เมื่อพบปัญหาก็สามารถไปที่แหล่งน้ำเหล่านี้แห่งใดแห่งหนึ่งได้

Stack Overflow เพื่อดูว่า โอเค ทำไมฉันถึงเจอข้อผิดพลาดนี้ และมีวิธีแก้ไขอย่างไร และจะดูความคิดเห็นจากนักพัฒนาหลายๆ คน แล้วเลือกอันที่ถูกต้องและนำการแก้ไขนั้นไปใช้ สิ่งที่เกิดขึ้นคือ จริงๆ แล้ว บทความนี้เผยแพร่เมื่อสองสามเดือนก่อน จริงๆ แล้ว มีผู้กระทำความผิด

ฉันคิดว่าเป็นนักแสดงที่ได้รับการสนับสนุนจากรัฐซึ่งกำลังทำบางอย่างที่น่าสนใจมาก พวกเขาเผยแพร่ไลบรารี Python ที่เป็นอันตรายผ่านช่องทางลับใน Stack Overflow และไม่ได้เผยแพร่เพียงแค่นั้น เผยแพร่ใน GitHub และพูดคุยเกี่ยวกับเรื่องนี้ใน Stack Overflow

Scott Schlee :
เพื่อเป็นแนวทางในการแก้ไขปัญหา

เซขาร์ สารุกไก:
ถึงอย่างนั้นก็ตาม ไม่ว่าจะเป็นข้อยกเว้นหรืออะไรก็ตาม

ลองนึกดูว่าถ้าคุณเป็นมนุษย์และเป็น Copilot เช่น GitHub Copilot ซึ่งบอกให้ฉันแก้ไขสิ่งนี้ แต่ฉันจะไปที่ Stack Overflow ค้นหามัน ลองใช้วิจารณญาณของฉันดูว่า คุณรู้ไหมว่านี่ฟังดูเหมือนบางอย่างที่ฉันอาจไม่ได้ใช้หรืออะไรก็ตาม ใช่ไหม? และขึ้นอยู่กับฉันที่จะตัดสินใจว่าจะอัปเดตด้วยไลบรารี Python ใหม่หรือไม่

แต่ถ้าเป็นเอเจนต์อย่างเดวิน การควบคุมคืออะไรและทำอย่างไร เพราะทั้งหมดนี้เกี่ยวกับความเร็วและประสิทธิภาพ และวิธีแก้ไขปัญหาที่รวดเร็วและเจ๋งมาก และฉันไม่รู้ด้วยซ้ำว่ามีวิธีเชิงปริมาณที่คุณสามารถตัดสินได้หรือไม่ว่าควรละเว้นความคิดเห็นเหล่านั้นใน Stack Overflow

ดังนั้นความเสี่ยงของการโจมตีห่วงโซ่อุปทานข้อมูลในกรณีนี้ ถูกต้องหรือไม่? ความเสี่ยงดังกล่าวเกิดขึ้นจริงสำหรับ AI เพราะฉันกำลังพูดถึงในตัวอย่างนี้ ในช่วงเวลาอนุมาน ในช่วงเวลาที่คุณใช้โมเดลจริง ๆ มีปัญหามากมายเกี่ยวกับห่วงโซ่อุปทานข้อมูล ซึ่งเกี่ยวข้องกับข้อมูลที่ใช้จริงในการฝึกโมเดลนั้นเอง

แน่นอนว่ามีคำถามเกี่ยวกับมัลแวร์และข้อมูลที่เป็นอันตราย แต่ยังมีคำถามพื้นฐานเกี่ยวกับความเป็นเจ้าของข้อมูล ปัญหาลิขสิทธิ์ และเรื่องอื่นๆ เช่นกัน และสิ่งเหล่านี้อาจกลายเป็นความท้าทายที่เพิ่มมากขึ้นสำหรับองค์กรที่อาจต้องรับผิดชอบต่อการละเมิดลิขสิทธิ์ ไม่ว่าลิขสิทธิ์นั้นจะถูกสร้างโดย Gen AI สำหรับพวกเขาหรือไม่ก็ตาม ใช่ไหม?

หากพวกเขาใช้สิ่งนี้ในสิ่งที่มีค่าสำหรับพวกเขาหรือเป็นสาธารณะ ใครๆ ก็สามารถฟ้องร้องพวกเขาได้ ดังนั้นแน่นอนว่ามีปัญหาเหล่านี้ ซึ่งฉันคิดว่าจะต้องพิจารณาให้รอบคอบยิ่งขึ้น และฉันคิดว่าโดยพื้นฐานแล้ว ในที่สุด ฉันคิดว่า เนื่องจากมีการเคลื่อนไหวอย่างแข็งแกร่งไปสู่โลกที่มีตัวแทน และการทำให้สิ่งต่างๆ เป็นระบบอัตโนมัติ และการแทนที่ผู้คนและตัวเลือกที่เราทำโดย AI แคมเปญของผู้กระทำความผิดอาจไม่แตะต้องมนุษย์ด้วยซ้ำ เพราะมันเกิดขึ้นด้วยความเร็วของ AI

ดังนั้นจะมีผู้กระทำความผิดที่ก่อเหตุโจมตี ซึ่งอาศัย AI ล้วนๆ เนื่องจาก AI ค้นหาจุดอ่อนในสภาพแวดล้อมของคุณและก่อเหตุโจมตี เช่นเดียวกับที่ Devin ทำด้วยเหตุผลที่ดีในการสร้างโค้ด ผู้กระทำความผิดสามารถใช้มันเพื่อเจาะเข้าไปในเครือข่ายได้ใช่หรือไม่ เพื่อขโมยข้อมูล และหากสิ่งนั้นเกิดขึ้น การตอบสนองต่อข้อมูลนั้นด้วยความเร็วของมนุษย์จะไม่ช่วยอะไร เพราะมนุษย์จะต้องทำเหมือนอย่างโลกในปัจจุบันนี้ คุณจะสร้างมันขึ้นมา มันไปที่ถุงเท้า แล้วคุณสร้างตั๋ว และมีคนต้องค้นหาว่าใครเป็นเจ้าของมัน และค้นหาปัญหา

นั่นแหละมันไม่ได้ผลหรอก

Scott Schlee :
ใช้เวลาหลายชั่วโมงหรือหลายวันก่อนที่จะได้รับการแก้ไข

เซขาร์ สารุกไก:
และคุณต้องการมันเหมือนกับการ์ตูนเหล่านี้ ซึ่งเคยมีอยู่ ฉันกำลังเดทกับตัวเอง ฉันเติบโตขึ้นมา ซึ่งเป็นสายลับก็คือสายลับ มันเป็นสิ่งเดียวกัน ซึ่งก็คือ AI เทียบกับ AI ใช่ไหม นั่นคือสิ่งที่ฉันคิดว่าการดำเนินการด้านความปลอดภัยทางไซเบอร์ที่แท้จริงจะเกิดขึ้นเมื่อเวลาผ่านไป

Scott Schlee :
นั่นเป็นแนวคิดที่น่าสนใจซึ่งฉันรู้ว่าหลายๆ คนมีทฤษฎีว่า AI จะทำงานร่วมกับ AI ได้อย่างไร และในสถานการณ์ที่คล้ายกับ Wild West คุณเพียงแค่ต้องเตรียมพร้อมสำหรับสิ่งเลวร้ายที่สุด

เซขาร์ สารุกไก:
ใช่ ไม่หรอก จริงๆ แล้ววิธีที่ฉันคิดเกี่ยวกับเรื่องนี้คือ Skyhigh เป็นหนึ่งในผู้บุกเบิก CASB, Skyhigh ในสมัยที่ Skyhigh เป็นเครือข่ายของ Skyhigh จากนั้นก็เปลี่ยนเป็น Skyhigh Security -

และโดเมนเอง Gartner's Lingo ได้เปลี่ยนจาก CASB ไปเป็น SSE Secure Service Edge และมี CASB, SWG, RBI และฟีเจอร์อื่นๆ อีกมากมาย แต่ผมคิดว่า Skyhigh กำลังมุ่งหน้าไป และผมคิดว่าเป็นการขยายแพลตฟอร์ม SSC โดยธรรมชาติเพื่อจัดการกับ AI แบบองค์รวม เพราะถ้าคุณคิดถึงองค์กรในลักษณะที่ Skyhigh ได้ดูข้อมูลองค์กรแล้ว ผมเชื่อว่าพวกเขาจะเผยแพร่รายงานนี้ซึ่งมีข้อมูลที่น่าสนใจมาก ซึ่งผมแน่ใจว่าคุณจะทำพอดแคสต์เกี่ยวกับเรื่องนี้อีก

และในบางจุดก็จะไม่เปิดเผยข้อมูลมากเกินไป แต่การค้นพบที่น่าสนใจบางอย่างก็คือ องค์กรจำนวนมากกำลังนำ AI เจนเนอเรชั่นมาใช้ แต่จริงๆ แล้ว องค์กรขนาดใหญ่จำนวนมากกำลังบล็อก ChatGPT อยู่ เพราะมันเกือบจะเหมือนมุมมองที่ขัดแย้งกัน แต่จริงๆ แล้วสิ่งที่พวกเขากำลังบอกก็คือมันสำคัญมาก

และมีสิ่งที่ไม่รู้มากมายที่ฉันต้องการนำไปใช้ในอินสแตนซ์ส่วนตัวของตัวเอง แทนที่จะใช้ ChatGPT เป็น SASS ใช่ไหม? ดังนั้นพวกเขาจึงไม่อนุญาตให้พนักงานสร้างแบบสอบถามไปยัง ChatGPT แต่พวกเขาจะมีอินสแตนซ์องค์กรของตนเอง พนักงานสามารถไปถามคำถามเหล่านั้นได้หากทำได้ เนื่องจากพวกเขากังวลว่าข้อมูลอาจรั่วไหลเข้าสู่สภาพแวดล้อม ChatGPT ที่ทำงานรวดเร็วนี้ และพวกเขาสามารถรับค่าได้ หากเป็นภายใน

Scott Schlee :
ตราบใดที่พวกเขาได้ตั้งราวกั้นที่พวกเขาอนุมัติไว้

เซขาร์ สารุกไก:
ใช่แล้ว ไม่เพียงเท่านั้น ในเกือบทุกกรณี พวกเขาใช้ Azure AI ซึ่งถือเป็นการปรับใช้แบบผ่านโครงสร้างพื้นฐานสาธารณะ แต่ภายใน VPC ของพวกเขา โดยพื้นฐานแล้ว มีเพียงพนักงานของพวกเขาเท่านั้นที่ใช้อินสแตนซ์ของ GPT

ไม่ว่าจะผ่าน API หรือ UI ซึ่งก็คือ ChatGPT และเช่นเดียวกับ AWS สภาพแวดล้อมคลาวด์สาธารณะเหล่านี้ล้วนเติบโตได้ดีในธุรกิจนี้ ดังนั้นขั้นตอนแรกคือการมองเห็นว่า Gen AI ใดที่กำลังใช้งานอยู่ ซึ่งแทบจะเป็น IT เงาของ 10 ปีที่แล้วเมื่อธุรกิจทั้งหมดใช้คลาวด์

ตอนนี้ CISO จำนวนมากต้องการทราบว่า AI คืออะไร องค์กรของเราใช้ AI อะไร และอยู่ในสายธุรกิจใด มีความเสี่ยงหรือไม่ มีหลักสูตร LLM บางหลักสูตรที่ยอมรับได้ บางหลักสูตรน่าสงสัยเพราะคุณไม่ต้องการทราบ บางทีหลักสูตรนี้อาจถูกโจมตีด้วยมัลแวร์และการเจลเบรกได้ง่ายกว่า ซึ่งอาจส่งผลกระทบต่อการรับรู้ของพนักงานหรือลูกค้าที่มีต่อองค์กรนี้

ดังนั้นระดับการมองเห็นนั้น และด้วยคุณลักษณะเฉพาะของ JNI และ LLM เป็นสิ่งที่ Sky มองว่าเป็นหนึ่งในผู้จำหน่าย SSE รายแรกๆ หากไม่ใช่รายแรกที่จะนำมาสู่ตลาด ใช่ไหม ซึ่งก็คือการไม่เพียงแต่ค้นพบ และรายงานว่า AI ใดที่องค์กรต่างๆ กำลังใช้ แต่ยังต้องมีมุมมองตามความเสี่ยงด้วยว่าสิ่งใดมีความเสี่ยง สิ่งใดไม่เสี่ยง เป็นต้น

แต่ฉันคิดว่ามันก็เลยไปไกลกว่านั้น เพราะฉันคิดว่าแพลตฟอร์ม Skyhigh อย่างที่เรารู้จักกันดีนั้นแข็งแกร่งมาก จริง ๆ แล้วมันมีรากฐานมาจาก CASB ในเรื่องของความปลอดภัยของข้อมูลเช่นกัน ความกังวลส่วนใหญ่ที่ลูกค้ามีคือเรื่องการรั่วไหลของข้อมูล ใช่ไหม และนั่นคือเหตุผลว่าทำไมพวกเขาถึงบล็อก ChatGPT แต่กลับเปิดใช้งานการใช้งานส่วนตัวและอื่น ๆ

และมีกรณีการใช้งาน SSE จำนวนมากรอบๆ Office 365 และการค้นพบที่น่าสนใจอีกอย่างหนึ่งซึ่งคุณจะเห็นในรายงานของ SkyHive เช่นกันก็คือ มี LLM หรือ Gen AI หนึ่งอันที่โดดเด่นจริงๆ ในการใช้งานระดับองค์กรเมื่อเทียบกับสิ่งอื่นๆ ในระดับลำดับความสำคัญ เช่น สามลำดับความสำคัญ

และนั่นคือการใช้งาน Office 365 Copilot มันคือ Microsoft Copilot และ Copilots ถูกสร้างขึ้นบนโมเดลพื้นฐานของ Gen AI ของคุณ GPT 4.0 ของ OpenAI หรืออาจเป็นโมเดล LLAMA หรือโมเดลอื่นๆ อีกมากมาย Anthropic ไม่ว่าจะเป็นอะไรก็ตาม แต่โดยพื้นฐานแล้ว Microsoft ใช้ OpenAI แต่พวกเขาสร้าง Microsoft Office 365 Copilot นี้ขึ้นมา ซึ่งเป็นส่วนเสริมของ Office 365

สิ่งที่มันทำคือมันไม่เพียงแต่อนุญาตให้ผู้ใช้ Office 365 สามารถโต้ตอบในรูปแบบอิสระได้เช่นเดียวกับที่คุณทำกับ ChatGPT เท่านั้น แต่ยังทำให้ข้อมูลทั้งหมดขององค์กรอยู่ในบริบทที่ Office 365 สามารถมองเห็นได้ และถ้าคุณลองนึกถึงองค์กรขนาดใหญ่แล้ว องค์กรทั้งหมดก็ได้รับการกำหนดมาตรฐานบน Office 365 ใช่หรือไม่

พวกเขามี SharePoint, OneDrive, Microsoft Teams, อีเมลทั้งหมด ทุกอย่างที่ธุรกิจและคุณ พนักงานในธุรกิจใช้ในปัจจุบันเพื่อโต้ตอบ สร้างผลงาน และสร้างมูลค่า ล้วนอยู่ในแพลตฟอร์ม Microsoft ซึ่งจัดเก็บไว้ที่ไหนสักแห่งในแพลตฟอร์ม Microsoft และ Microsoft Copilot จัดทำดัชนีทั้งหมดนั้นจริงๆ

และพวกเขามีการควบคุมบางอย่างเพื่อบอกว่าอันไหนที่คุณไม่ต้องการสร้างดัชนีและอื่นๆ แต่เนื่องจากมันรวมอยู่ใน Office 365 หรือเป็นส่วนเสริม การนำ Microsoft Copilot มาใช้จึงเหนือกว่าสิ่งอื่นใดจริงๆ และนั่นอาจดึงดูดการใช้งาน OpenAI และอื่นๆ แต่เนื่องจากพนักงานใช้ Office 365 เพราะพวกเขาโต้ตอบกับ Copilot เนื่องจากมีข้อมูลละเอียดอ่อนจำนวนมากในสภาพแวดล้อมของ Microsoft ฉันคิดว่าการปกป้องข้อมูล ส่วนขยายตามธรรมชาติของ Sky ก็มีการปกป้องข้อมูลเช่นกัน

ในโลกของ Copilot นั้นมีคุณค่ามหาศาลสำหรับลูกค้า มีปัญหามากมายเกี่ยวกับเรื่องนี้ ฉันทราบว่า Microsoft มีการควบคุมพื้นฐานบางอย่าง แต่สำหรับองค์กรขนาดใหญ่บางแห่ง จำเป็นต้องมี SSE เท่านั้น ฉันคิดว่าด้วย Copilots มันจึงมีความสำคัญมากยิ่งขึ้น

มีตัวอย่างคลาสสิกของ Microsoft Copilot เช่น มีแอปพลิเคชันที่สามารถเชื่อมต่อกับ Copilot ผ่าน API ได้จริง และนั่นก็ทำให้แอปพลิเคชันเหล่านี้กลายเป็นเวกเตอร์ในการขโมยข้อมูลได้ ในสถานการณ์การใช้งานที่อาจมีการโจมตีที่น่าสนใจบางอย่าง ซึ่งนำเสนอเกี่ยวกับ Copilot ในงานประชุม Black Hat เมื่อเร็ว ๆ นี้ คุณควรค้นหา Copilot หากใครสนใจ และคุณจะเห็นเวกเตอร์การโจมตีบางอย่าง ซึ่งพยายามสร้างการโจมตีฟิชชิ่งโดยใช้ปัญญาประดิษฐ์ ซึ่งมีอยู่ในแพลตฟอร์ม Microsoft Copilots

คุณสามารถเกลี้ยกล่อม Copilot ให้ตอบว่าใครอยู่ในที่ประชุมหรือที่อยู่อีเมลของบุคคลที่คุณติดต่อด้วยบ่อยที่สุด และอะไรคือ... คุณคุยอะไรกับคนๆ นั้นล่าสุด จากนั้นดึงข้อมูลเพียงพอจากการโต้ตอบกับ Copilot จากนั้นจึงร่างข้อความเพื่อขอให้บุคคลนี้ทำบางอย่าง ซึ่ง...

Scott Schlee :
ถึงสมาชิกเป็นกลุ่มจาก CEO ของคุณ

เซขาร์ สารุกไก:
อย่างแน่นอน.

Scott Schlee : Shaker โซลูชัน AI ทำอะไร Skyhigh Security มีและเราเตรียมตัวสำหรับอนาคตอย่างไร?

เซขาร์ สารุกไก:
ฉันคิดว่าลูกค้ากำลังขอวิธีที่ดีกว่าในการจัดการการใช้งาน Copilot ในปัจจุบัน และสิ่งที่ฉันมีก็คือ ในอนาคตมันคงไม่มากเท่ากับความจำเป็น ใช่ไหม และ Skyhigh ที่ฉันรู้จักนั้นพร้อมที่จะใช้ความแข็งแกร่งในการปกป้องข้อมูลสำหรับสภาพแวดล้อม Office 365 และนำไปใช้กับ Copilot โดยพื้นฐานแล้วจะทำการทดสอบ DLP แบบเดียวกัน ใช่ไหม

ตัวอย่างเช่น Skyhigh มีความสามารถในการบอกอยู่แล้วว่าหากฉันทำงานร่วมกับคุณในเอกสาร แล้วจู่ๆ ฉันก็กลายเป็นผู้รับเหมา หรือสมมติว่าฉันเป็นที่ปรึกษาในกรณีนี้ สก็อตต์ คุณกำลังแบ่งปันบางอย่างกับฉัน และคุณกำลังจะแบ่งปันบางสิ่งที่ละเอียดอ่อนมาก ซึ่งไม่เหมาะสำหรับผู้ที่ไม่ได้เป็นพนักงานหรือผู้บริหารหรืออะไรก็ตาม

ตอนนี้ SkyHive มีความสามารถในการบอกว่า โอเค หยุดการทำงานร่วมกันในสิ่งที่เปลี่ยนไปแล้วในแง่ของเนื้อหาที่มีความละเอียดอ่อนมากกว่าที่ควรอนุญาตให้แชร์ได้ ใช่ไหม นั่นเป็นสิ่งเดียวกัน เมื่อ Copilot สามารถบอกได้ ขณะที่คุณกำลังสร้างเนื้อหา หากมีบางสิ่งที่ละเอียดอ่อน ซึ่งมีความละเอียดอ่อนมากกว่าที่ฉันมี ขออภัย ในระดับที่มากกว่าที่ฉันมี พวกเขาควรจะสามารถบล็อกสิ่งนั้นได้

ดังนั้น Sky จึงสามารถช่วยในเรื่องนี้ได้ Sky กำลังทำงานร่วมกับ AI ซึ่งเป็นสตาร์ทอัปด้าน AI เฉพาะที่เน้นสร้างระบบป้องกัน นี่คือสตาร์ทอัปที่ชื่อว่า Encrypt ซึ่งเราได้บูรณาการระบบดังกล่าวไว้สำหรับการให้คะแนนความเสี่ยงจากมุมมองของทีม Red Team แต่เรายังบูรณาการระบบดังกล่าวไว้สำหรับระบบป้องกันด้วยเช่นกัน ใช่ไหม

ดังนั้นแนวทางป้องกันที่คุณมีสำหรับ ChatGPT ก็คือ คุณไม่ควรเจลเบรก ซึ่งเป็นสิ่งสำคัญสำหรับ Office 365 เช่นกัน ใช่ไหม ดังนั้น คุณคงไม่อยากให้ Office 365 ทำอะไรออกมาเลย เพราะมันไม่เหมาะสม ดังนั้น Skyhigh สามารถช่วยลูกค้าแก้ไขปัญหานี้ได้

ฉันคิดว่าการเข้าใจความละเอียดอ่อนของเอกสารนั้นต้องสามารถปกป้องเอกสารได้ แต่ในแง่ของความร่วมมือ ในแง่ของผู้ที่สามารถเห็นเอกสารนั้นได้ และความสามารถในการแก้ไขเอกสารนั้นในเวลาใกล้เคียงกับเวลาจริง ไม่ว่าจะผ่านการผสานรวม API ของเรา ซึ่งเรามีอยู่แล้วกับ Office 365 หรือผ่านพร็อกซีของเรา ไม่ว่าจะเป็นพร็อกซีแบบส่งต่อหรือแบบย้อนกลับ ซึ่งฉันคิดว่าแนวทางของเรานั้นกำลังได้รับการพิจารณาและดำเนินการอยู่ในขณะนี้

Scott Schlee :
ฉันรู้สึกขอบคุณมากที่คุณเข้ามาชี้แจงเรื่องนี้ให้ชัดเจน เพราะอย่างที่ฉันได้บอกไปก่อนหน้านี้ ตอนนี้มันเหมือนกับโลกตะวันตกที่ไร้ขอบเขตด้วยปัญญาประดิษฐ์ และมีข้อมูลที่ขัดแย้งกันมากมายอยู่ที่นั่น บางคนไม่เข้าใจอย่างถ่องแท้ว่าปัญญาประดิษฐ์อยู่ที่ไหน จะมุ่งไปทางใด และจะปกป้องข้อมูลสำคัญของคุณอย่างไร

ฉันหวังเป็นอย่างยิ่งว่าเราจะได้คุยกันอีกครั้งในเร็วๆ นี้ เพราะฉันมั่นใจว่าภายในสามเดือน ทุกอย่างจะเปลี่ยนไปอย่างสิ้นเชิง ฉันจึงอยากให้คุณมาอัปเดตอีกครั้ง

เซขาร์ สารุกไก:
แน่นอนครับ สก็อตต์ ยินดีครับ และผมยินดีที่จะร่วมด้วย มีหัวข้อที่น่าสนใจมากมายเกี่ยวกับเรื่องนี้ และเราจะพูดถึงเรื่องนั้น

ฉันคิดว่ามีหลายสิ่งหลายอย่างที่องค์กรต่างๆ จำเป็นต้องมองเห็นว่าอุตสาหกรรมกำลังคิดอย่างไร วิวัฒนาการของพื้นที่นี้และคำถามบางส่วนที่คุณถามเกี่ยวกับความเกี่ยวข้องของ Gen AI สำหรับความปลอดภัยและความปลอดภัยของเจนนี่ ฉันมีความสำคัญมากทั้งคู่ และนี่จะเป็นการสนทนาที่ยาวนานขึ้นอย่างแน่นอน

Scott Schlee :
เป็นเรื่องจริงนะ Shaker ผู้คนจะติดต่อคุณได้อย่างไรหากพวกเขาต้องการค้นหาคุณทางออนไลน์

เซขาร์ สารุกไก:
ฉันคิดว่าวิธีที่ดีที่สุดคือค้นหา shaker ผ่าน LinkedIn ดังนั้น เรามาเชื่อมต่อกันและรับฟังมุมมองของทุกคนเกี่ยวกับพื้นที่ใหม่ที่กำลังเกิดขึ้นนี้ ซึ่งถือเป็นเรื่องสำคัญที่สุด

Scott Schlee : ดีมาก.

และข้อมูลของเขาจะอยู่ในบันทึกย่อของรายการ ฉันจะมีลิงก์ด่วนสำหรับคุณที่นั่น และอย่าลังเลที่จะติดต่อเขา ติดต่อฉัน หรือ Skyhigh Security เรายินดีที่จะพูดคุยกับคุณเกี่ยวกับอนาคตของ AI และวิธีที่เราสามารถช่วยเหลือได้

เซขาร์ สารุกไก:
ขอบคุณ

Scott Schlee :
ขอขอบคุณอีกครั้งสำหรับการฟัง Skyhigh Cloudcast หากคุณชื่นชอบตอนนี้ อย่าลืมสมัครรับข้อมูลบนแพลตฟอร์มที่คุณชื่นชอบ เพื่อไม่ให้พลาดการอัปเดตใดๆ

หากคุณชอบรายการนี้ โปรดแสดงความคิดเห็นให้เราทราบ รายการนี้จะช่วยให้ผู้อื่นค้นหาพอดแคสต์ได้ สำหรับข้อมูลเพิ่มเติมเกี่ยวกับ Skyhigh Security หรือ Cloudcast กรุณาเยี่ยมชม SkyhighSecurity.com

โปรดทราบ: สำเนาทั้งหมดสร้างขึ้นโดยใช้ซอฟต์แวร์การจดจำเสียงพูดและการถอดเสียงโดยมนุษย์ และอาจมีข้อผิดพลาด โปรดตรวจสอบเสียงที่เกี่ยวข้องก่อนอ้างอิงในสื่อสิ่งพิมพ์