Bài viết & Thông báo
Cập nhật bài viết và thông báo mới nhất từ khoa An toàn Thông tin
2 kết quả#Secure AI
blogsTấn công Prompt Injection vào các Mô hình Ngôn ngữ Lớn
Tấn công Prompt Injection (PI) vào các Mô hình Ngôn ngữ Lớn đã được OWASP xếp hạng là lỗ hổng bảo mật số một (LLM01:2025) trong danh sách OWASP Top 10 cho Ứng dụng LLM năm 2025. Phân tích cho thấy rằng mặc dù các cơ chế phòng thủ hiện tại ngày càng tinh vi, các cuộc tấn công thích ứng (adaptive attacks) vẫn có thể vượt qua hơn 90% các biện pháp phòng thủ được công bố. Điều này phản ánh một nghịch lý kiến trúc cơ bản: LLM không có khả năng phân biệt "dữ liệu" và "lệnh" ở cấp độ cú pháp tất cả đều là văn bản thuần túy.
Hướng nghiệpGiới thiệu về AI trong lĩnh vực bảo mật (AI Security)
AI security không nên được hiểu đơn giản là bảo mật cho một công cụ AI. Đây là một khu vực chiến lược của an ninh mạng hiện đại, nơi AI vừa là công cụ phòng thủ mạnh, vừa là nguồn rủi ro mới cần kiểm soát. Giá trị lớn nhất của AI nằm ở khả năng phát hiện mối đe dọa nhanh hơn, hỗ trợ phản ứng sự cố tốt hơn, tự động hóa vận hành và mở rộng năng lực phòng thủ trong môi trường số phức tạp. Nhưng giá trị đó chỉ bền vững khi tổ chức đồng thời bảo vệ dữ liệu, mô hình, quy trình triển khai và các quyết định do AI tạo ra.