ChatGPT và trí tuệ nhân tạo mới đang gây ra sự hỗn loạn trong lĩnh vực an ninh mạng một cách thú vị và đáng sợ

Trí tuệ nhân tạo sinh sản đang biến đổi ngành công nghiệp an ninh mạng, hỗ trợ cả kẻ tấn công và người bảo vệ. Người tội phạm mạng đang tận dụng trí tuệ nhân tạo để triển khai những cuộc tấn công tinh vi và mới lạ với quy mô lớn. Và những người bảo vệ cũng đang sử dụng công nghệ tương tự để bảo vệ cơ sở hạ tầng quan trọng, tổ chức chính phủ và mạng lưới doanh nghiệp, như Christopher Ahlberg, CEO của nền tảng thông tin đe dọa Recorded Future cho biết.

Trí tuệ nhân tạo phát sinh đã giúp những nhân vật xấu sáng tạo và phát triển các chiến lược tấn công mới, giúp chúng ở một bước trước phòng thủ an ninh mạng. Trí tuệ nhân tạo giúp cho những kẻ tấn công tự động hóa các cuộc tấn công, quét các bề mặt tấn công và tạo ra nội dung phù hợp với các khu vực địa lý và đối tượng dân số khác nhau, giúp chúng nhắm vào một phạm vi mục tiêu rộng hơn trên các quốc gia khác nhau. Tội phạm mạng đã áp dụng công nghệ này để tạo ra những email lừa đảo thuyết phục. Văn bản được tạo bởi trí tuệ nhân tạo giúp kẻ tấn công sản xuất email và tin nhắn văn bản cá nhân hóa cao hơn, khả năng lừa đảo mục tiêu cao hơn.

"Tôi nghĩ bạn không cần phải nghĩ sáng tạo lắm để nhận ra rằng, người, điều này thực sự có thể giúp [các tội phạm mạng] trở thành tác giả, điều đó là một vấn đề," Ahlberg nói.

Những người bảo vệ đang sử dụng Trí tuệ Nhân tạo (AI) để ngăn chặn các cuộc tấn công. Các tổ chức đang sử dụng công nghệ này để ngăn chặn rò rỉ thông tin và tìm kiếm những lỗ hổng trong hệ thống mạng một cách proactively. Nó cũng tự động hoá các nhiệm vụ như thiết lập cảnh báo cho các từ khóa cụ thể và phát hiện thông tin nhạy cảm trên internet. Những kẻ săn mối đe dọa đang sử dụng AI để nhận diện các mô hình bất thường và tóm tắt một lượng dữ liệu lớn, kết nối các chi tiết trên nhiều nguồn thông tin và mô hình ẩn.

Công việc vẫn cần những chuyên gia, nhưng Ahlberg cho biết công nghệ trí tuệ nhân tạo tự tạo dữ liệu (generative AI) mà chúng ta thấy trong các dự án như ChatGPT có thể hỗ trợ.

"Chúng tôi muốn tăng tốc chu kỳ phân tích [để] giúp chúng tôi phân tích với tốc độ suy nghĩ," ông nói. "Điều đó rất khó khăn và tôi nghĩ rằng chúng ta đang chứng kiến một bước đột phá ở đây, điều đó rất hứng thú."

Ahlberg cũng đã thảo luận về các mối đe dọa tiềm năng mà các máy tính thông minh cao cấp có thể mang lại. Khi thế giới trở nên ngày càng số hóa và kết nối, khả năng bẻ cong hiện thực và tạo hình nhận thức có thể bị kẻ xấu lợi dụng. Những mối đe dọa này không chỉ giới hạn trong các quốc gia, làm cho tình hình trở nên phức tạp và không đối xứng hơn.

Lý thuyết trí tuệ nhân tạo (AI) có khả năng giúp bảo vệ khỏi những mối đe dọa mới nổi này, nhưng cũng mang đến những rủi ro riêng của nó. Ví dụ, máy tính với khả năng xử lý cao có thể đột nhập vào hệ thống nhanh chóng và hiệu quả hơn con người. Để đối phó với những mối đe dọa này, chúng ta cần đảm bảo rằng AI được sử dụng theo một cách phòng ngừa và với sự hiểu biết rõ ràng về ai đang kiểm soát nó.

Khi trí tuệ nhân tạo được tích hợp sâu trong xã hội, việc hiểu công nghệ và các tác động của nó trong AI trở nên quan trọng đối với các nhà lập pháp, các thẩm phán và những người đưa ra quyết định khác. Xây dựng liên minh vững mạnh giữa các chuyên gia kỹ thuật và những nhà hoạch định chính sách sẽ là rất quan trọng để điều hướng tương lai của AI trong việc truy tìm mối đe dọa và nhiều hơn nữa.

Các cơ hội, thách thức và quan điểm đạo đức trong lĩnh vực an ninh mạng của trí tuệ nhân tạo (AI) là phức tạp và đang tiến triển. Đảm bảo mô hình AI không thiên vị và duy trì sự tham gia của con người trong quá trình đưa ra quyết định sẽ giúp quản lý các thách thức đạo đức. Cảnh giác, hợp tác và hiểu rõ công nghệ sẽ là rất quan trọng trong việc giải quyết những mối đe dọa tiềm năng từ các máy móc thông minh có trí tuệ cao trong tương lai.

Ahlberg cũng đã đề cập đến mối lo ngại về Trung Quốc, Nga và các kẻ thù kinh tế triển khai các máy tự động. Những quốc gia này có lẽ sẽ không làm chậm quá trình phát triển trí tuệ nhân tạo hoặc chia sẻ các yếu tố đạo đức. Trong khi có khả năng "tắt máy" các máy đó là một biện pháp bảo đảm thông minh, ông đề xuất rằng sự tích hợp công nghệ vào xã hội và nền kinh tế toàn cầu có thể làm cho việc tách rời trở nên khó khăn. Ahlberg nhấn mạnh nhu cầu thiết kế sản phẩm và máy móc với sự rõ ràng về người điều khiển chúng.

"Điều quan trọng nhất mà internet đã đem lại trong tất cả những điều này là internet đã trở thành nơi mà tất cả thông tin trên thế giới di cư," Ahlberg nói. "Những mô hình ngôn ngữ lớn này đang làm những điều phép thuật... để tăng tốc chu kỳ suy nghĩ đó."

Ông ta thêm, "Trong 25 năm tới, thế giới sẽ trở thành một phản chiếu của internet."