AWS Executive Insights / 安全 / ...
安全領導者分享他們對生成式 AI 的看法
與來自 People.ai、Trellix、Red Canary 和 AWS 的安全領導者對談
全球企業都在爭相引入生成式 AI 技術以取得競爭優勢。然而，如何確定合適的使用案例以及明確自身出發點，是許多企業和技術領導者的一大難題。在本影片中，一起來聽聽三位 AWS 客戶和安全領導者分享他們的公司如何著手採用生成式 AI。
觀看影片，聽聽來自 People.AI、Trellix 和 Red Canary 的安全領導者對生成式 AI 的看法。 聽聽這些領導者分享他們對生成式 AI 的安全風險與益處的想法，以及他們如何找出開始利用生成式 AI 來促進公司業務發展的安全方法。
CISO Circle 的參與者是如何看待生成式 AI 的？
Danielle Ruderman (00:03)：
安全和 AI 是非常廣泛的話題，我們發現資安長 (CISO) 們都在關注幾個不同的領域，其中之一顯然是 ChatGPT，即大型語言模型。他們的團隊和程式設計師都想使用這些 AI 功能，因此身為負責組織安全的 CISO，您會制定哪些政策和流程？ 你對團隊使用這個功能有何看法？
我認為有趣的是，許多 CISO 都希望他們的團隊可以使用這個功能。他們確實看到了這些工具的潛力，所以我們討論了在使用時需要有哪些防護機制，以及如何負責任地使用這些工具。這些討論都非常重要。
Aman Sirohi (00:34)：
我認為我們會很快會面臨 AI 風險。您的公司和客戶面臨何種風險？
據我所知，每一份合約都規定第三方資料不能離開您的環境並進入第三方來源。現在，無論您想使用何種 AI 模型，這些資料都會離開您的環境，轉到第三方來源，然後帶著答案歸來。因此，我認為法律層面的觀點以及客戶和公司承擔風險的方式將會有很大的變化。我認為在此領域會有很多創新。
Danielle Ruderman
AWS 全球安全專家資深經理
Aman Sirohi
People.ai 資安長
CISO 如何找到充分利用生成式 AI 的安全方式？
Danielle Ruderman (01:19)：
在 AI 的未來方向方面，我們也看到一些非常有抱負的想法。我們的一些 CISO 認為，這是擴大培育安全領域新人才的絕佳機會。
有時候讓人們取得所需知識，即入行的過程可能會很有挑戰性，但或許這些工具能幫助資淺的安全營運 (SOC) 分析師或其他安全人員，真正取得所需工具並更快地提升技能，這將有助於我們的產業培養出更多安全專業人才。
Martin Holste (01:45)：
從商業角度來看，您必須開始使用生成式 AI，否則就會落後於競爭對手。因此，身為 CISO，您必須找到讓您的團隊在安全無虞的情況下保持生產力的方法。
我非常支持在標準業務中盡可能多使用生成式 AI。因此，我們內部進行大量培訓，教員工如何使用各種不同的 AI，好讓他們更有效率。在這方面，我們也設有控制機制，可確保他們不會不小心將內容複製和貼到禁止的地方。
Martin Holste
Trellix 雲端 CTO
生成式 AI 的好處是否大於安全風險？
Danielle Ruderman (02:14)：
我認為第三個非常有趣的事情是，即使是對資深的安全專業人員，AI 也能有望幫助他們認真應對他們的必做事項。想像一下，如果你正在分析日誌，並且已經學會用某種程式語言寫程式 (比如 Python)，但此刻你必須分析日誌並學習如何編寫 SQL 查詢。其中障礙就是必須學習這些不同的程式語言才能擷取資料。你知道資料在哪裡，但是你必須學習如何用不同的程式碼來擷取資料。試想，如果你只需要告訴 AI 你想做什麼，以及你想擷取哪些資料來分析，而無需學習所有這些不同的深奧編碼模型，那工作會變得有多方便。
這樣的技術具有強大的力量，能夠真正幫助我們加快調查速度。無論是針對資淺還是資深的安全專業人員，該技術都能幫助他們更快地完成工作。
Chris Rothe (02:58)：
安全界的一大挑戰是人手不足。因此，AWS 在讓平台更安全以及逐步提升服務安全方面一步一腳印所做的工作非常重要。
整體來說，我們希望 Red Canary 團隊中的每個人都能根據自己的職位合理使用生成式 AI。假設您是業務人員，剛和客戶在通話中談了一單生意，並需要寫封後續電子郵件，我們希望可以加速這個流程，提升溝通品質。因為到最後，這對客戶和您都更好，因為您能在五分鐘內做好原本可能要花一小時才能完成的事。
所以我們現在的做法是，確保每個人都能安全地使用這項技術。但我認為在了解與生成式 AI 相關的隱患和挑戰方面，我們還處於早期階段。 在未來幾年，會出現哪些與生成式 AI 相關的法律問題？
Chris Rothe
Red Canary 共同創辦人暨技術長
領導者簡介
Aman Sirohi
People.ai 資安長
Aman Sirohi 是 People.ai 的資安長。他擁有豐富的經驗，可在全球技術、諮詢零售、金融科技和供應鏈等產業複雜的多利害關係人環境中設想和提供廣泛的安全解決方案。Aman 對打造安全性充滿熱情，協助組織與客戶、員工和合作夥伴建立深厚的信任關係。這種熱情促使他建立高效能團隊，為客戶和合作夥伴提供轉型成果。Aman 是以人為本的領導者，擁有多元業務經驗，一直被視為值得信賴的顧問和戰略問題解決者，可讓企業提高安全標準，同時為客戶提供更妥善的服務。
Martin Holste
Trellix 雲端 CTO
身為雲端 CTO，Martin 負責塑造雲端安全和 AI 產品，開發企業雲端安全策略，並熱情地與客戶合作，以改善客戶的安全結果。在擔任雲端 CTO 之前，Martin 領導的團隊致力於機器學習，並在 Trellix 建立了雲端原生 Helix XDR 平台。在加入 Trellix 之前，Martin 曾擔任威斯康辛州事件回應團隊主管，花了近 10 年時間從事滲透測試、事故回應和威脅搜尋。
Chris Rothe
Red Canary 共同創辦人暨技術長
Chris 在 2014 年共同創辦了 Red Canary，領導技術策略，並建立許多 Red Canary 用於取得與服務客戶的工具和團隊。在共同創辦 Red Canary 之前，Chris 曾領導軟體開發團隊，並為國防和情報界設計大型資料處理系統。
Danielle Ruderman
AWS 全球安全專家資深經理
Danielle Ruderman 是 AWS 全球安全專家組織的資深經理，並領導一個全球安全專家團隊。Danielle 於 2016 年加入 AWS。她擁有 20 年以上的科技職涯經驗，與企業、新創和政府單位皆有合作。現今，Danielle 十分樂於討論如何建立能強化安全控制的組織文化，並設計「讓對的事變得容易」的系統和機制，讓安全性成為業務推手。
邁出下一步
