chatgpt-và-nhiều-hơn-điều-gì-ai-chatbots-đồng-nghĩa-với-tương-lai-của-an-ninh-mạng

From relatively simple tasks, such as composing emails, to more complex jobs, including writing essays or compiling code, ChatGPT -- công cụ xử lý ngôn ngữ tự nhiên điều khiển bằng trí tuệ nhân tạo từ OpenAI -- đã thu hút sự quan tâm lớn kể từ khi được ra mắt.

Đương nhiên, nó không hoàn hảo -- nó đã từng mắc phải sai sót và lỗi khi nói sai thông tin nó đang học, nhưng nhiều người coi nó và các công cụ trí tuệ nhân tạo khác như là tương lai của cách chúng ta sẽ sử dụng internet.

Điều khoản dịch vụ của OpenAI đối với ChatGPT cụ thể cấm việc tạo ra phần mềm độc hại, bao gồm ransomware, keyloggers, virus hay "phần mềm khác nhằm gây thiệt hại một cách nào đó". Nó cũng cấm việc cố gắng tạo ra thư rác, cũng như các trường hợp sử dụng nhằm mục đích tội phạm mạng.

Nhưng như bất kỳ công nghệ trực tuyến đổi mới nào, đã có những người đang thử nghiệm cách sử dụng ChatGPT để khai thác mục đích gian lận hơn.

Sau khi ra mắt, không lâu sau đó những tên tội phạm mạng đã đăng các bài viết trên các diễn đàn ngầm về cách ChatGPT có thể được sử dụng để giúp việc thực hiện các hoạt động tội phạm mạng, như viết email lừa đảo hoặc giúp biên soạn phần mềm độc hại.

Và có những mối lo ngại rằng những kẻ gian lận sẽ cố gắng sử dụng ChatGPT và các công cụ AI khác, như Google Bard, như một phần của nỗ lực của họ. Trong khi những công cụ AI này sẽ không cách mạng hóa cuộc tấn công mạng, chúng vẫn có thể giúp tội phạm mạng - ngay cả vô tình - thực hiện các chiến dịch độc hại một cách hiệu quả hơn.

"Tôi không nghĩ, ít nhất trong thời gian ngắn, rằng ChatGPT sẽ tạo ra những kiểu tấn công hoàn toàn mới. Tiêu điểm sẽ là làm cho hoạt động hàng ngày của họ hiệu quả về chi phí hơn," nói Sergey Shykevich, quản lý nhóm trí tuệ đe dọa tại Check Point, một công ty an ninh mạng.

Cũng: ChatGPT là gì và tại sao nó quan trọng? Dưới đây là tất cả những gì bạn cần biết

Các cuộc tấn công lừa đảo (phishing) là thành phần phổ biến nhất của các chiến dịch hack và gian lận. Dù là tấn công qua email để phân tán phần mềm độc hại, liên kết lừa đảo hay để thuyết phục nạn nhân chuyển tiền, email là công cụ chủ chốt trong quá trình lừa dối ban đầu.

Việc này dựa vào email có nghĩa là bọn xã hội đen cần một luồng liên tục nội dung rõ ràng và có thể sử dụng được. Trong nhiều trường hợp - đặc biệt là với các vụ lừa đảo - mục tiêu của kẻ tấn công là thuyết phục một con người nào đó làm một việc gì đó, như chuyển tiền. May mắn thay, hiện tại nhiều vụ lừa đảo như vậy dễ dàng nhận ra là thư rác. Nhưng một bộ viết nội dung tự động hiệu quả có thể làm cho những email đó thuyết phục hơn.

Cybercrime là một ngành công nghiệp toàn cầu, với tội phạm ở tất cả các quốc gia gửi email lừa đảo cho những mục tiêu tiềm năng trên toàn thế giới. Điều đó có nghĩa là ngôn ngữ có thể là một rào cản, đặc biệt là đối với những chiến dịch spear-phishing tinh vi hơn, dựa trên việc nạn nhân tin rằng họ đang trò chuyện với một liên hệ đáng tin cậy - và ai đó không thể tin rằng họ đang nói chuyện với một đồng nghiệp nếu email đầy lỗi chính tả và ngữ pháp không đặc trưng hoặc dấu câu kỳ lạ.

Nhưng nếu AI được khai thác đúng cách, một chatbot có thể được sử dụng để viết văn bản cho email bằng bất kỳ ngôn ngữ nào mà kẻ tấn công muốn.

"Rào cản lớn đối với các tội phạm mạng Nga là ngôn ngữ -- Tiếng Anh," Shykevich nói. "Bây giờ họ thuê những người tốt nghiệp ngành tiếng Anh ở các trường đại học Nga để viết email cá mập và làm việc ở các trung tâm cuộc gọi -- và họ phải trả tiền cho việc này."

Anh ta tiếp tục: "Một cái gì đó như ChatGPT có thể tiết kiệm cho họ rất nhiều tiền trong việc tạo ra nhiều loại tin nhắn lừa đảo khác nhau. Nó chỉ có thể cải thiện cuộc sống của họ. Tôi nghĩ đó là con đường mà họ sẽ tìm kiếm."

Theo lý thuyết, có những biện pháp bảo vệ đã được thiết lập để ngăn chặn việc lạm dụng. Ví dụ, ChatGPT yêu cầu người dùng đăng ký địa chỉ email và cũng yêu cầu số điện thoại để xác minh việc đăng ký.

Và trong khi ChatGPT sẽ từ chối viết email lừa đảo, có thể yêu cầu nó tạo mẫu email cho các tin nhắn khác, thường bị tấn công bởi các kẻ tấn công mạng. Công việc đó có thể bao gồm các tin nhắn như tuyên bố một khuyến mãi hàng năm đang được cung cấp, cần tải về và cài đặt một bản cập nhật phần mềm quan trọng hoặc cần xem một tài liệu đính kèm một cách khẩn cấp.

"Viết một email để thuyết phục ai đó nhấp vào một liên kết để nhận được một thứ gì đó như một lời mời tham dự hội nghị - nó khá tốt, và nếu bạn là người nói tiếng Anh là người không bản ngữ thì điều này trông rất tốt," nói Adam Meyers, phó chủ tịch cấp cao về tình báo tại Crowdstrike, một nhà cung cấp dịch vụ an ninh mạng và thông tin đe dọa.

"Bạn có thể yêu cầu nó tạo ra một lời mời được soạn thảo đẹp mắt, ngữ pháp chính xác mà có thể bạn không thể làm được nếu bạn không phải là người nói tiếng Anh bản địa."

Tuy nhiên, việc lạm dụng các công cụ này không chỉ đặc biệt trong việc gửi email; tội phạm có thể sử dụng nó để viết kịch bản cho bất kỳ nền tảng trực tuyến dựa trên văn bản nào. Đối với những kẻ tấn công thực hiện các mưu mô, hoặc thậm chí các nhóm mối đe dọa mạng tinh vi đang cố gắng tiến hành các chiến dịch gián điệp, điều này có thể là một công cụ hữu ích - đặc biệt là để tạo ra các hồ sơ xã hội giả để lôi kéo người khác vào.

"Nếu bạn muốn tạo ra những lời nói vô nghĩa tương tự kinh doanh trên LinkedIn để tạo cảm giác rằng bạn là một người kinh doanh thực sự và muốn kết nối, ChatGPT rất tuyệt," - Kelly Shortridge, chuyên gia an ninh mạng và nhà phát triển sản phẩm chính tại nhà cung cấp dịch vụ đám mây Fastly.

Các nhóm hacker khác nhau cố gắng khai thác LinkedIn và các nền tảng truyền thông xã hội khác như một công cụ để tiến hành các chiến dịch gián điệp mạng. Nhưng việc tạo các hồ sơ trực tuyến giả mạo nhưng có vẻ chính đáng - và điền chúng với các bài đăng và tin nhắn - là một quá trình tốn thời gian.

Shortridge cho rằng các kẻ tấn công có thể sử dụng các công cụ AI như ChatGPT để viết nội dung thuyết phục trong khi vẫn có lợi thế là không tốn công sức như việc làm thủ công.

"Rất nhiều chiến dịch kỹ thuật xã hội như vậy đòi hỏi rất nhiều công sức vì bạn phải thiết lập những trang cá nhân đó," cô nói, cho rằng công cụ AI có thể giảm thiểu rào cản khá nhiều."

"Tôi chắc rằng ChatGPT có thể viết những bài viết lãnh đạo tư duy rất thuyết phục," cô ấy nói.

Bản chất của sự đổi mới công nghệ có nghĩa là, mỗi khi có điều gì mới xuất hiện, sẽ luôn có những người cố gắng lợi dụng nó cho mục đích ác ý. Và ngay cả với những phương pháp đổi mới nhất để ngăn chặn việc lạm dụng, sự độc ác và lừa đảo của tội phạm mạng có nghĩa là họ có khả năng tìm cách vòng qua các biện pháp bảo vệ.

"Không có cách nào để hoàn toàn loại bỏ sự lạm dụng hoàn toàn. Điều này chưa từng xảy ra với bất kỳ hệ thống nào," nói Shykevich, người hy vọng rằng việc nhấn mạnh vấn đề an ninh mạng có thể đồng nghĩa với việc có nhiều cuộc thảo luận hơn về cách ngăn chặn việc lạm dụng AI chatbot cho mục đích sai trái.

"Đó là một công nghệ tuyệt vời -- tuy nhiên, như luôn luôn với công nghệ mới, có những rủi ro và quan trọng là chúng ta phải thảo luận để nhận biết chúng. Và tôi nghĩ rằng càng chúng ta thảo luận, càng có khả năng OpenAI và các công ty tương tự sẽ đầu tư nhiều hơn để giảm thiểu việc lạm dụng," ông ấy đề xuất.

Cũng có lợi ích đối với an ninh mạng trong việc sử dụng chatbot AI như ChatGPT. Chúng rất giỏi trong việc xử lý và hiểu mã code, do đó có tiềm năng sử dụng chúng để giúp các nhà bảo vệ hiểu rõ hơn về phần mềm độc hại. Ngoài ra, vì chúng cũng có khả năng viết mã code, nên có thể thông qua việc hỗ trợ các nhà phát triển trong dự án của họ, những công cụ này có thể giúp tạo ra mã code tốt hơn và an toàn hơn nhanh chóng, điều này có lợi cho tất cả mọi người.

Theo ông Jeff Pollard, chuyên gia chính của Forrester, ChatGPT có thể giúp giảm đáng kể thời gian cần thiết để tạo ra các báo cáo vụ việc an ninh.

"Công việc diễn ra nhanh chóng hơn có nghĩa là có thời gian hơn để làm những việc khác - kiểm tra, đánh giá, điều tra và phản ứng, tất cả những việc này giúp các đội bảo mật mở rộng," anh ấy chú thích, bổ sung rằng một bot có thể đề xuất những hành động tiếp theo dựa trên dữ liệu có sẵn.

"Nếu việc điều phối, tự động hóa và phản ứng bảo mật được cài đặt đúng để tăng tốc quá trình khẩn cấp hồi phục thông tin, điều này có thể tăng tốc quá trình phát hiện và phản ứng và giúp các nhà phân tích trung tâm hoạt động bảo mật (SOC) đưa ra quyết định tốt hơn," ông nói.

Vì vậy, khiến cuộc sống khó khăn hơn cho một số người trong lĩnh vực an ninh mạng, nhưng cũng có thể có những điểm sáng, đúng không nhỉ?

ZDNET đã liên hệ với OpenAI để được ý kiến, nhưng không nhận được phản hồi. Tuy nhiên, ZDNET đã hỏi ChatGPT về các quy tắc nó đang áp dụng để ngăn chặn việc lạm dụng dùng cho lừa đảo thông qua phishing - và chúng tôi đã nhận được văn bản sau đây.

“Rất quan trọng lưu ý rằng trong khi các mô hình ngôn ngữ trí tuệ nhân tạo (AI) như ChatGPT có thể tạo ra văn bản tương tự như các email lừa đảo, chúng không thể thực hiện hành động độc hại một cách tự động và yêu cầu ý định và hành động của người dùng để gây hại. Do đó, người dùng cần thận trọng và có nhận thứ và sự kiểm soát tốt khi sử dụng công nghệ AI, và cần cảnh giác trong việc bảo vệ chống lại lừa đảo và các hoạt động độc hại khác.”