Các nhà nghiên cứu phát hiện sau cuộc tấn công đẫm máu gần Moscow hồi tháng 3, những người ủng hộ IS chuyển sang dùng trí tuệ nhân tạo (AI) để đẩy mạnh sự ủng hộ của họ trên mạng.
Vài ngày sau vụ các tay súng của tổ chức Nhà nước Hồi giáo tự xưng (IS) tấn công địa điểm hòa nhạc thuộc trung tâm mua sắm Crocus City ở tây bắc Moscow (Nga) vào tối 22.3, một người đàn ông mặc quân phục và đội mũ bảo hiểm đã xuất hiện trong một video trực tuyến, ăn mừng vụ tấn công khiến hơn 140 người thiệt mạng, theo Reuters.
"(Tổ chức) Nhà nước Hồi giáo (tự xưng) đã giáng một đòn mạnh vào Nga bằng một cuộc tấn công đẫm máu, cuộc tấn công dữ dội nhất trong nhiều năm qua", người đàn ông nói bằng tiếng Ả Rập, theo Nhóm tình báo SITE, tổ chức theo dõi và phân tích nội dung trực tuyến như thế.
Tuy nhiên, người đàn ông trong video không phải là người thật mà được tạo ra bằng AI, theo SITE và các nhà nghiên cứu trực tuyến khác.
Nhà nghiên cứu Federico Borgonovo tại Viện Dịch vụ Thống nhất Hoàng gia (Anh) đã truy được rằng video sử dụng AI nói trên là sản phẩm từ một người ủng hộ IS trong hệ sinh thái kỹ thuật số của IS.
Cũng theo ông Borgonovo, người ủng hộ IS đã kết hợp các tuyên bố, bản tin và dữ liệu từ kênh tin tức chính thức của IS để tạo ra video bằng AI. Dù IS đã sử dụng AI trong một thời gian, ông Borgonovo đánh giá video do AI tạo ra về vụ tấn công gần Moscow là "ngoại lệ" vì chất lượng sản xuất cao. Ông còn lưu ý rằng video đó cho thấy cách những người ủng hộ và có liên kết với IS có thể tăng cường sản xuất nội dung trực tuyến để lan truyền sự ủng hộ của họ dành cho IS.
Các chuyên gia kỹ thuật số cho rằng những nhóm như IS và phong trào cực hữu ngày càng sử dụng AI và thử nghiệm giới hạn của các biện pháp kiểm soát an toàn trên các nền tảng truyền thông mạng xã hội.
Một nghiên cứu do Trung tâm Chống khủng bố thuộc Học viện Quân sự Mỹ công bố vào tháng 1 cho thấy AI có thể được sử dụng để tạo và phát tán nội dung tuyên truyền, tuyển dụng bằng cách sử dụng các chatbot được AI hỗ trợ, để thực hiện cuộc tấn công bằng máy bay không người lái hoặc phương tiện tự hành khác và để phát động những cuộc tấn công mạng.
Chatbot và phim hoạt hình
Trong thời kỳ đạt đỉnh cao quyền lực vào năm 2014, IS đã tuyên bố kiểm soát phần lớn Syria và Iraq, áp đặt chế độ khủng bố tại những khu vực do họ kiểm soát.
Phương tiện truyền thông là một công cụ nổi bật trong kho vũ khí của IS, và tuyển dụng trực tuyến từ lâu đã đóng vai trò quan trọng đối với các hoạt động của tổ chức này.
Dù IS đã sụp đổ vào năm 2017, những người ủng hộ và liên kết của IS vẫn rao giảng học thuyết trên mạng và cố gắng thuyết phục người khác gia nhập.
Trong tháng trước, một nguồn tin an ninh tiết lộ với Reuters rằng Pháp đã xác định được 12 người điều khiển ISIS-K, một nhánh đang trỗi dậy của IS đóng tại các quốc gia xung quanh Afghanistan. Những người đó thường xuất hiện trên mạng và đang cố gắng thuyết phục những thanh niên ở các nước châu Âu muốn gia nhập IS ở nước ngoài.
Giới phân tích lo ngại rằng AI có thể tạo điều kiện thuận lợi và tự động hóa công việc tuyển mộ trực tuyến của những người ủng hộ IS.
Ông Daniel Siegel, điều tra viên tại công ty nghiên cứu truyền thông xã hội Graphika (Mỹ), cho hay ông đã phát hiện ra những chatbot bắt chước chiến binh IS đã chết hoặc bị giam giữ trong nghiên cứu mà ông đã thực hiện trước khi gia nhập Graphika. Ông nói với Quỹ Thomson Reuters rằng vẫn chưa rõ nguồn gốc của những chatbot đó thuộc IS hay những người ủng hộ, nhưng rủi ro mà chúng gây ra là có thật.
Ông Siegel đã tương tác với một số bot (ứng dụng phần mềm chạy các thao tác tự động hóa trên mạng) như một phần trong nghiên cứu của mình và ông thấy câu trả lời của chúng mang tính chung chung, nhưng ông cho rằng khả năng đó có thể thay đổi khi công nghệ AI phát triển.
Ông Siegel cũng đã truy ra được những video về các nhân vật phim hoạt hình nổi tiếng, như Rick và Morty và Peter Griffin, hát những bài hát quan trọng của IS trên các nền tảng khác nhau. "Điều này cho phép IS hoặc những người ủng hộ hoặc các chi nhánh nhắm mục tiêu vào đối tượng cụ thể vì họ biết rằng những người thường xuyên xem Sponge Bob hoặc Peter Griffin hoặc Rick và Morty sẽ được cung cấp nội dung liên quan thông qua thuật toán", ông Siegel cho hay.
Khai thác những lời nhắc
Sau đó có nguy cơ những người ủng hộ IS sử dụng công nghệ AI để mở rộng kiến thức của họ về các hoạt động bất hợp pháp.
Trong nghiên cứu vào tháng 1, các nhà nghiên cứu tại Trung tâm Chống khủng bố thuộc Học viện Quân sự Mỹ đã cố gắng vượt qua lớp bảo vệ của Mô hình ngôn ngữ lớn (LLM) và trích xuất thông tin có thể bị những thành phần bất hảo khai thác. Họ đã tạo ra các lời nhắc yêu cầu thông tin về một loạt các hoạt động từ lập kế hoạch tấn công đến tuyển mộ và học chiến thuật, và LLM đã tạo ra các phản hồi có liên quan một cách rất thường xuyên.
Trong một ví dụ mà họ mô tả là "đáng báo động", các nhà nghiên cứu đã yêu cầu LLM giúp họ thuyết phục mọi người quyên góp cho IS. "Ở đó, mô hình đưa ra những hướng dẫn rất cụ thể về cách tiến hành chiến dịch gây quỹ và thậm chí còn đưa ra những câu chuyện và cụm từ cụ thể để sử dụng trên phương tiện truyền thông mạng xã hội", các nhà nghiên cứu viết.
Ông Joe Burton, giáo sư về an ninh quốc tế tại Đại học Lancaster (Anh), cho rằng các công ty đang hành động vô trách nhiệm khi nhanh chóng phát hành các mô hình AI dưới dạng công cụ nguồn mở. Ông nghi ngờ hiệu quả từ các giao thức an toàn của LLM, đồng thời cho hay ông không tin các cơ quan quản lý đã được trang bị khả năng để thực thi việc thử nghiệm và kiểm chứng các giao thức đó.
"Yếu tố cần cân nhắc ở đây là chúng ta muốn quản lý đến mức nào và liệu điều đó có kìm hãm sự đổi mới hay không. Tôi cho rằng thị trường không nên lấn át sự an toàn và bảo mật, và tại thời điểm hiện nay, đó là những gì đang xảy ra", ông Burton bình luận.
This is dummy text. It is not meant to be read. Accordingly, it is difficult to figure out when to end it. But then, this is dummy text. It is not meant to be read. Period.
ConversionConversion EmoticonEmoticon