Cách Block xây dựng bảo mật dựa trên AI với công nghệ OpenAI

Tại Block, công ty đứng sau Square, Cash App và Afterpay, đội ngũ bảo mật tận dụng OpenAI Defense Factory: nơi AI đảm nhận việc tìm lỗ hổng, phát hiện và ứng phó với mối đe dọa ở quy mô mà không đội ngũ con người nào có thể theo kịp. Với các hệ thống AI, trong đó có OpenAI Daybreak, Block chỉ mất vài giờ để hoàn thành công việc trước đây phải mất hàng tuần.

Đội ngũ bảo mật của Block tập trung vào việc ứng dụng AI có trách nhiệm trong các quy trình làm việc, từ tạo mã đến vận hành bảo mật. James Nettesheim, Giám đốc An toàn thông tin, cho biết: “Điều cốt lõi ở đây là có thêm một đồng đội mới có thể cùng bạn mở rộng quy mô công việc. Điều này không giống cách tự động hóa truyền thống, khi bạn phải xác định từng bước một. Bạn có thể đưa ra một bài toán khá đặc thù, chưa rõ ràng và cùng AI tìm cách giải quyết.”

Những công việc như xem xét lỗi phần mềm hay phân tích cú pháp nhật ký từng mất nhiều ngày hoặc nhiều tuần để hoàn thành. Giờ đây, đội ngũ có thể hoàn thành những công việc đó trong thời gian ngắn hơn nhiều, mà vẫn có con người xác thực từng kết quả.

Chẳng hạn, để tinh chỉnh cơ chế phát hiện, mỗi cuộc điều tra đều lưu lại bằng chứng truy vấn thô. Nhờ vậy, đội ngũ hiện có thể kiểm thử lại một thay đổi được đề xuất cho cơ chế phát hiện trên bảy tháng dữ liệu đo từ xa của môi trường thực tế trong chưa đầy một giờ. Trước đây, công việc đó đòi hỏi phải truy vấn lại hàng trăm vụ việc cũ theo cách thủ công và trên thực tế rất hiếm khi được thực hiện vì quá tốn thời gian.

Đội ngũ cũng đã kỹ lưỡng hơn khi lựa chọn mô hình cho từng công việc. Ông nói: “Trước đây, chúng tôi thường dùng mô hình mới nhất, nhưng giờ không còn cần phải làm vậy nữa. Chúng tôi đã học hỏi được nhiều điều qua việc chọn các mô hình khác nhau cho từng tác vụ.” Hệ thống điều khiển bảo mật của Block được xây dựng trên nền tảng Daybreak để giúp phân luồng tác vụ đến đúng mô hình, đồng thời có các điểm can thiệp để con người tiếp quản tác vụ hoặc để các tác nhân xác minh công việc của nhau. Đội ngũ liên tục đánh giá các hệ thống này dựa trên bộ tiêu chuẩn đánh giá nội bộ và hiệu quả thực tế, điều chỉnh cách tiếp cận khi cần, bao gồm cả việc chuyển công việc sang cho con người xem xét khi đó là lựa chọn có trách nhiệm.

Hệ thống phân loại ưu tiên tự động giúp hoàn thành công việc nhanh hơn và xử lý được nhiều việc hơn. Đội ngũ bảo mật của Block ghi nhận thông lượng phân loại ưu tiên tăng 50%, hoạt động thu thập thông tin tình báo và điều tra tăng 50%, cùng một năng lực săn tìm mối đe dọa tự chủ hoàn toàn mới. Nettesheim cho biết: “Hệ thống này thực hiện khối lượng điều tra tương đương khoảng 1.100 giờ làm việc của chuyên viên phân tích mỗi quý, vì giờ đây mọi cảnh báo đều được điều tra đầy đủ, chuyên sâu trên tất cả các yếu tố liên quan. Hệ thống của chúng tôi xử lý từng cảnh báo như thể đó là cảnh báo duy nhất trong ngày.”

Các công cụ quét truyền thống chỉ đánh dấu từng lỗ hổng riêng lẻ, nhưng với Daybreak, đội ngũ bảo mật của Block có thể làm được nhiều hơn thế. Mô hình giúp đưa ra giả thuyết về các kiểu tấn công và xâu chuỗi nhiều cuộc tấn công thành một lộ trình xâm nhập hoàn chỉnh từ đầu đến cuối, qua đó tìm ra những lỗ hổng có thể đã tồn tại nhiều năm.

Trong một trường hợp, nếu xét riêng, cảnh báo trên một máy tính xách tay trông chỉ như một vi phạm chính sách nhỏ. Nhưng trong quá trình rà soát chéo, mô hình đã lần theo một chỉ dấu chỉ tình cờ xuất hiện trong bằng chứng, đối chiếu với nhật ký danh tính của Block và phát hiện một loạt vấn đề lớn hơn nhiều. “Từ một cảnh báo thông thường trên thiết bị đầu cuối, chúng tôi đã triệt phá được cả một chiến dịch tấn công. Không một công cụ riêng lẻ nào có thể kết nối những dữ liệu đó. Chỉ khi kết hợp nhật ký của hai sản phẩm mới thấy được tín hiệu này”, James nói.

Một ví dụ khác về sự hỗ trợ của Daybreak là trong một cuộc diễn tập đội đỏ gần đây. Mô hình được cung cấp một vài gợi ý về một hệ thống nội bộ và đã xâu chuỗi thành một lộ trình tấn công hoàn chỉnh — chèn mã SQL, leo thang đặc quyền, thiết lập chỗ đứng, liệt kê thông tin xác thực và chuyển hướng sang các hệ thống khác — trong khoảng hai giờ. Một chuyên gia kiểm thử đội đỏ (red team) thường phải mất vài ngày để làm việc này. Trong các cuộc diễn tập đội đỏ gần đây, thời gian từ khi gửi mô tả sơ bộ về lỗ hổng đến khi hệ thống tự động đề xuất bản vá là 18 phút.

Việc tìm ra lỗ hổng chỉ có giá trị khi đi đôi với khả năng khắc phục. Nettesheim trình bày quy trình mà đội ngũ của ông áp dụng cho mỗi phát hiện: xác định vấn đề nằm ở đâu trong mã và ai chịu trách nhiệm, sau đó tiến hành khắc phục. “Bạn đề xuất một bản vá, xác nhận khả năng khai thác lỗ hổng, rồi xác minh rằng mình đã khắc phục được, với con người tham gia định hướng quy trình và triển khai các thay đổi mã.”

Dù có năng lực kỹ thuật, các tác nhân không nắm được bối cảnh của tổ chức hay lý do đằng sau những quyết định trước đó. Con người cung cấp bối cảnh và chiến lược đó, và đây chính là lúc đội ngũ của ông tham gia để bổ sung một lớp rà soát do con người thực hiện. Nettesheim cho biết khi khả năng phán đoán của AI được chứng minh trong thực tế, “chúng tôi sẽ dần nâng mức rủi ro chấp nhận được để sử dụng AI cho những hệ thống nhạy cảm hơn”.

• Chưa đầy một giờ để kiểm thử lại một thay đổi được đề xuất cho cơ chế phát hiện trên bảy tháng dữ liệu đo từ xa.

• 18 phút từ khi gửi mô tả sơ bộ về lỗ hổng đến khi hệ thống tự động đề xuất bản vá trong các cuộc diễn tập đội đỏ gần đây.

• Tiết kiệm khoảng 600 giờ làm việc của chuyên viên phân tích mỗi quý cho việc phân loại cảnh báo dương tính giả.

• Hoàn thành khối lượng điều tra tương đương khoảng 1.100 giờ làm việc của chuyên viên phân tích mỗi quý.

• Thông lượng phân loại ưu tiên tăng 50%.

• Hoạt động thu thập thông tin tình báo và điều tra tăng 50%.

Chỉ riêng công việc phát hiện và ứng phó đã giúp tiết kiệm khoảng 600 giờ làm việc của chuyên viên phân tích mỗi quý, vốn trước đây dành cho việc phân loại cảnh báo dương tính giả. Với thời gian tiết kiệm được, đội ngũ hiện có thể dành nhiều thời gian hơn cho các cuộc điều tra chuyên sâu và tiếp tục mở rộng tự động hóa một cách có trách nhiệm.

Khi nhịp độ tấn công tăng lên và các mô hình AI không ngừng tiến bộ, Nettesheim nhìn thấy cơ hội giảm số lượng lỗ hổng phát sinh ngay từ đầu. Điều đó sẽ giúp các đội ngũ bảo mật bớt thời gian vá lỗi và dành nhiều thời gian hơn cho công việc phòng ngừa mang tính chiến lược.

Ông nói: “OpenAI đang chuyển lợi thế sang bên phòng thủ bằng cách đưa những năng lực tiên tiến này đến với mọi người. Trước đây, những năng lực này thường chỉ nằm trong tay các công ty công nghệ hàng đầu và chính phủ. Nhưng giờ đây, tất cả mọi người, kể cả các đơn vị vận hành hạ tầng trọng yếu, trường học và doanh nghiệp nhỏ, đều có thể bắt đầu sử dụng công nghệ này để bảo vệ mạng của mình.”