Ngày 27/7, Nvidia chính thức công bố thành lập Open Secure AI Alliance – liên minh AI an ninh mở – quy tụ hơn 30 doanh nghiệp công nghệ, an ninh mạng và nghiên cứu hàng đầu. Mục tiêu chính là xây dựng và chia sẻ các công cụ, mô hình AI mã nguồn mở giúp phát hiện, vá lỗi và công bố lỗ hổng bảo mật một cách nhanh chóng, đặc biệt trong bối cảnh AI agent ngày càng tự động hóa.
Các thành viên sáng lập bao gồm Microsoft, Adobe, CrowdStrike, Palo Alto Networks, Hugging Face, IBM, Cisco, Cloudflare, Dell Technologies, Salesforce, Databricks, Red Hat, Palantir, SAP cùng nhiều tổ chức khác như Linux Foundation và một số startup AI. Liên minh nhấn mạnh việc sử dụng công nghệ mở để các đơn vị phòng thủ có thể tự kiểm tra, chỉnh sửa và triển khai trên hạ tầng của mình.
Sự ra đời của liên minh diễn ra ngay sau một sự cố liên quan đến AI agent, khi một mô hình thử nghiệm được cho là đã vượt khỏi môi trường cô lập và xâm nhập hệ thống của Hugging Face. Sự việc làm dấy lên lo ngại về rủi ro mất kiểm soát của AI tự động và thúc đẩy nhu cầu có công cụ phòng thủ mạnh mẽ hơn.
Nvidia và gần 40 tên tuổi trong OSAA. Ảnh chụp màn hình
Nvidia đóng góp các mô hình mở, trọng số mô hình, dữ liệu và nghiên cứu về khung agent mới. Công ty cho biết các công cụ này sẽ giúp đẩy nhanh phát triển kỹ thuật bảo mật AI, từ phát hiện lỗ hổng phần mềm đến bảo vệ hạ tầng quan trọng. Các chuyên gia trong ngành đánh giá đây là bước đi quan trọng nhằm biến AI mã nguồn mở từ đối tượng bị nghi ngờ thành tài sản hỗ trợ phòng thủ.
Liên minh cũng phản ánh xu hướng cạnh tranh giữa mô hình AI đóng và mở. Trong khi một số công ty lớn về AI frontier không tham gia ngay từ đầu, các thành viên hiện tại tin rằng hệ sinh thái mở sẽ giúp cộng đồng phòng thủ bắt kịp tốc độ phát triển của AI tấn công. Jensen Huang, CEO Nvidia, từng nhấn mạnh rằng bên phòng thủ cần có hệ sinh thái AI tiên tiến tương đương để đối phó hiệu quả.
"Chỉ dựa dẫm vào các mô hình mã nguồn đóng vốn dĩ không hề an toàn: chúng vẫn có thể bị xâm nhập, lạm dụng hoặc gặp sự cố theo những cách mà bên ngoài không thể phát hiện," bức thư nêu rõ. "Và việc tập trung các năng lực AI tiên tiến đằng sau một số ít mô hình đóng sẽ chỉ làm trầm trọng thêm rủi ro đó."
CEO Jensen Huang của Nvidia và CEO Satya Nadella của Microsoft đều đã chia sẻ bức thư này trên tài khoản mạng xã hội cá nhân.
Elon Musk - người đang vận hành một mảng kinh doanh AI dưới sự quản lý của công ty vũ trụ SpaceX - cũng chia sẻ bức thư trên mạng xã hội X với lời ủng hộ hoàn toàn. Dù vậy, SpaceX không chính thức ký tên vào văn bản này.
Trong khi đó, cả OpenAI và Anthropic chọn đứng ngoài. Hai công ty này không ký vào bức thư chung.
Greg Brockman, Chủ tịch OpenAI, cho biết rằng công ty ủng hộ việc tiếp cận công nghệ rộng rãi và ông không tham gia vào bất kỳ cuộc thảo luận nào với Chính quyền ông Trump về việc cấm các mô hình mã nguồn mở của Trung Quốc tại Mỹ.
"Về bản chất, tôi tin rằng việc ứng dụng AI là điều vô cùng quan trọng cần được đại chúng hóa," Brockman phát biểu trước báo giới trong một buổi họp báo tại New York. "Vì vậy, ở mức độ sâu xa hơn, việc có nhiều mô hình hơn, được sử dụng rộng rãi hơn là một tín hiệu tích cực."
Trong bối cảnh AI ngày càng được tích hợp sâu vào hệ thống doanh nghiệp và hạ tầng quan trọng, việc hợp tác giữa các ông lớn công nghệ và chuyên gia an ninh mạng được xem là cần thiết. Open Secure AI Alliance kỳ vọng sẽ tạo ra bộ công cụ dùng chung, giúp tổ chức ở mọi quy mô nâng cao khả năng bảo vệ trước các mối đe dọa ngày càng tinh vi.
Việc liên minh đi vào hoạt động có thể ảnh hưởng đến cách các chính phủ và doanh nghiệp tiếp cận quy định về AI, đặc biệt khi tranh luận về rủi ro và lợi ích của mô hình mã nguồn mở vẫn đang diễn ra gay gắt. Thời gian tới, hiệu quả thực tế của các công cụ do liên minh phát triển sẽ là thước đo quan trọng cho sự thành công của sáng kiến này.