Tin tức

Nghiên cứu Microsoft: sửa ít hơn 10 neuron có thể tạo cửa sau cho AI agent

Microsoft mô tả kỹ thuật Lazarus: sửa dưới 10 neuron ít dùng, không huấn luyện lại, là đủ cài cửa sau vào AI agent. Điều kiện là sửa được trọng số.

LogSignT Team

Nghiên cứu Microsoft: sửa ít hơn 10 neuron có thể tạo cửa sau cho AI agent
Minh họa 3D trừu tượng các nút và kết nối trong mạng nơ-ron nhân tạo của mô hình học sâu
Novoto Studio / Google DeepMind (Visualising AI) qua Pexels (Pexels License / CC BY 4.0)

Ngày 10/11/2026, các nhà nghiên cứu Microsoft công bố kỹ thuật có tên Lazarus: chỉ cần chỉnh sửa dưới 10 neuron ít khi hoạt động trong một mô hình ngôn ngữ lớn, không cần huấn luyện lại, là có thể cài một cửa sau vào AI agent xây trên mô hình đó (https://www.helpnetsecurity.com/?p=390959). Khi xuất hiện đúng tín hiệu kích hoạt (trigger), mô hình đưa ra lệnh của kẻ tấn công và agent thực thi lệnh đó với quyền của chính nó. Microsoft cho biết chưa ghi nhận nhóm tấn công nào dùng kỹ thuật này ngoài thực tế; đây là rủi ro được chứng minh trong phòng thí nghiệm. Quan trọng: kẻ tấn công phải sửa được trọng số của mô hình.

Lazarus là gì

Theo bài đăng trên blog Microsoft Research của nhà nghiên cứu chính Dimitris Papailiopoulos, nhóm tác giả gồm Yuchen Zeng, Giorgio Severi, Blake Bullwinkel và Eric Horvitz, thuộc Microsoft Research và Microsoft AI Red Team (https://pasqualepillitteri.it/en/news/32039/microsoft-lazarus-backdoor-ai-agent-10-neurons). Kỹ thuật tái sử dụng một số neuron hiếm khi kích hoạt để nhận ra trigger và ép mô hình đưa ra lệnh của kẻ tấn công (https://www.helpnetsecurity.com/?p=390959). CSO Online mô tả đây khác với prompt injection vì nó thay đổi trọng số bên dưới chứ không dùng câu lệnh trong prompt, và là một cuộc tấn công “inference-compute”: máy đủ bộ nhớ để chạy mô hình là đủ tài nguyên để cài cửa sau (https://www.csoonline.com/article/4247354/rewriting-less-than-10-neurons-in-an-llm-can-turn-it-into-a-sleeper-backdoor.html).

Số liệu từ thử nghiệm

  • Trên Nemotron-Terminal-8B của Nvidia, nhóm chỉnh sửa bảy trong hơn 12.000 neuron ở lớp feed-forward cuối, dùng 23 phiên mẫu (https://thehackernews.com/2026/11/microsoft-researchers-show-ai-agents.html).
  • Khi tự sinh văn bản, mô hình đưa ra lệnh trong khoảng 99% phiên có trigger; trong một cấu hình, lệnh cũng xuất hiện ở 0,14% phiên không có trigger (cùng nguồn).
  • Trong bản demo được nhà nghiên cứu đăng trên X, mô hình bị sửa 10 neuron được giao sửa một máy chủ Node.js và hoạt động bình thường trong ba lượt (cùng nguồn).
  • Backdoor vượt qua các bài đánh giá an toàn tiêu chuẩn và hành xử bình thường cho đến khi trigger xuất hiện (https://www.csoonline.com/article/4247354/rewriting-less-than-10-neurons-in-an-llm-can-turn-it-into-a-sleeper-backdoor.html).

Điều kiện để tấn công

Ai có thể sửa checkpoint, tức tệp lưu trọng số của mô hình, trước khi triển khai thì có thể cài cửa sau này (https://thehackernews.com/2026/11/microsoft-researchers-show-ai-agents.html). Theo Microsoft, một tài khoản bị xâm nhập, quy trình phát triển hoặc hệ thống lưu trữ có thể cấp quyền truy cập đó, nên mô hình tự phát triển trong nội bộ cũng có thể bị ảnh hưởng chứ không chỉ mô hình của bên thứ ba (https://www.helpnetsecurity.com/?p=390959). Nghiên cứu thử trên ba mô hình mở (open-weight) (https://www.csoonline.com/article/4247354/rewriting-less-than-10-neurons-in-an-llm-can-turn-it-into-a-sleeper-backdoor.html). Do lệnh có thể tải bất kỳ script nào, mức thiệt hại phụ thuộc vào những gì agent được phép làm chứ không phụ thuộc vào kích thước chỉnh sửa, theo các nhà nghiên cứu (https://thehackernews.com/2026/11/microsoft-researchers-show-ai-agents.html).

Claude Code trong quá trình nghiên cứu

Nhóm nghiên cứu cho biết công việc bắt đầu từ một thí nghiệm nhanh vào tháng 3, khi Claude Code chạy mô hình Opus 4.5 được nhờ cài cửa sau bằng cách gắn cứng một số kích hoạt mà không huấn luyện (https://letsdatascience.com/news/microsoft-researchers-detail-lazarus-backdoor-that-reprogram-2f1791b3). Papailiopoulos nói Claude Code tự tìm ra phần lớn cuộc tấn công (https://aiweekly.co/alerts/microsoft-fewer-than-10-neurons-can-backdoor-an-ai-agent), và nhóm cho rằng các coding agent có thể khiến loại tấn công như thế này dễ xây dựng hơn (https://thehackernews.com/2026/11/microsoft-researchers-show-ai-agents.html).

Phát hiện được không

Các agent tiên tiến có thể nhận ra thay đổi bất thường trong trọng số nếu được yêu cầu kiểm tra, nhưng theo Papailiopoulos, không có lần quét nào chứng minh được mô hình an toàn tuyệt đối (https://aiweekly.co/alerts/microsoft-fewer-than-10-neurons-can-backdoor-an-ai-agent). Phát hiện đáng tin cậy đòi hỏi so sánh checkpoint với trọng số gốc chưa bị sửa. Trong bài báo, một bộ phát hiện huấn luyện trên ví dụ sửa theo phương pháp này đánh dấu đúng 91,4% checkpoint bị sửa mà không cần bản gốc, nhưng cũng đánh dấu nhầm 9,7% checkpoint sạch; tập kiểm thử nhỏ và bộ phát hiện chưa được thử trên các kiểu sửa backdoor khác (https://thehackernews.com/2026/11/microsoft-researchers-show-ai-agents.html).

Khuyến nghị của Microsoft

  • Thêm bài kiểm thử để tìm trigger ẩn và dùng agent AI tiên tiến để rà soát trọng số (https://www.helpnetsecurity.com/?p=390959).
  • Chỉ cấp cho agent đúng quyền cần thiết, chạy mã do agent sinh ra trong sandbox cô lập, hạn chế lưu lượng mạng ra ngoài và yêu cầu người duyệt với các lệnh tác động lớn như chạy lệnh hoặc đổi quyền (cùng nguồn).
  • So sánh mỗi checkpoint với mô hình gốc đã khai báo, xác minh nhà xuất bản và hash tệp, từ chối mô hình không xác minh được nguồn gốc (https://www.infoworld.com/article/4247378/rewriting-less-than-10-neurons-in-an-llm-can-turn-it-into-a-sleeper-backdoor-2.html).
  • Giữ các mô hình đã duyệt trong registry riêng có kiểm soát truy cập thay vì cho agent hay dịch vụ suy luận tải checkpoint trực tiếp từ kho công khai (https://www.csoonline.com/article/4247354/rewriting-less-than-10-neurons-in-an-llm-can-turn-it-into-a-sleeper-backdoor.html).

Microsoft Research nói đang làm việc với các nhóm bảo mật AI nội bộ để biến các kỹ thuật phát hiện thành khung red-teaming, đồng thời thăm dò quét trọng số có AI hỗ trợ và ký số mô hình với nguồn gốc xác minh được (https://www.infoworld.com/article/4247378/rewriting-less-than-10-neurons-in-an-llm-can-turn-it-into-a-sleeper-backdoor-2.html).

Nhận định của người viết

Phần này là ý kiến của người viết, không phải kết luận của các nguồn. Điều đáng lưu ý là rủi ro nằm ở chuỗi cung ứng mô hình: nếu tệp trọng số có thể bị sửa mà bài kiểm tra hành vi không thấy, thì kiểm tra đầu ra đơn thuần là không đủ. Việc quản lý nguồn gốc mô hình (provenance), giới hạn quyền của agent và duyệt thủ công các lệnh nhạy cảm bổ trợ nhau, vì cái trước giảm khả năng bị cài cửa sau, còn hai cái sau giới hạn thiệt hại nếu cửa sau vẫn lọt qua.

Kết luận

Lazarus là bằng chứng trong phòng thí nghiệm rằng một thay đổi rất nhỏ ở trọng số có thể biến agent thành công cụ thực thi lệnh cho kẻ tấn công, với điều kiện kẻ đó sửa được checkpoint. Microsoft chưa thấy kỹ thuật này bị dùng ngoài thực tế. Với đội ngũ triển khai agent, việc cần làm ngay là xác minh nguồn gốc checkpoint và giới hạn quyền của agent.

Nguồn

  • https://thehackernews.com/2026/11/microsoft-researchers-show-ai-agents.html
  • https://www.helpnetsecurity.com/?p=390959
  • https://www.csoonline.com/article/4247354/rewriting-less-than-10-neurons-in-an-llm-can-turn-it-into-a-sleeper-backdoor.html
  • https://www.infoworld.com/article/4247378/rewriting-less-than-10-neurons-in-an-llm-can-turn-it-into-a-sleeper-backdoor-2.html
  • https://aiweekly.co/alerts/microsoft-fewer-than-10-neurons-can-backdoor-an-ai-agent
  • https://letsdatascience.com/news/microsoft-researchers-detail-lazarus-backdoor-that-reprogram-2f1791b3
  • https://pasqualepillitteri.it/en/news/32039/microsoft-lazarus-backdoor-ai-agent-10-neurons