Tương lai về chiến tranh tự hành hoàn toàn, được hỗ trợ bởi AI đã thành hiện thực (Phần cuối)

TÔI ĐANG Ở San Diego, California, một cảng chính của Hạm đội Thái Bình Dương Hoa Kỳ, nơi các công ty khởi nghiệp quốc phòng mọc lên như nấm. Ngay trước mặt tôi, trong một tòa nhà kính cao, được bao quanh bởi những cây cọ, là trụ sở của Shield AI. Stewart khuyến khích tôi đến thăm công ty, nơi sản xuất V-BAT, một máy bay không người lái mà Lực lượng Đặc nhiệm 59 đang thử nghiệm ở Vịnh Ba Tư. Mặc dù có hình dáng kỳ lạ—hình chữ T lộn ngược, với cánh và một cánh quạt duy nhất ở phía dưới—đó là một thiết bị ấn tượng, đủ nhỏ và nhẹ để một nhóm hai người có thể phóng từ hầu hết mọi nơi. Nhưng phần mềm bên trong V-BAT, một phi công AI tên là Hivemind mới là thứ tôi đến để xem.

Tôi đi qua các văn phòng trắng sáng của công ty, đi qua các kỹ sư đang loay hoay với các mảnh máy bay không người lái và các dòng code, để đến một phòng họp nhỏ. Ở đó, trên một màn hình lớn, tôi xem ba chiếc V-BATS bắt đầu một nhiệm vụ mô phỏng ở sa mạc California. Một đám cháy rừng dữ dội đang xảy ra gần đó, và nhiệm vụ của chúng là tìm ra nó. Máy bay phóng thẳng đứng từ mặt đất, sau đó nghiêng về phía trước và lao xuống theo các hướng khác nhau. Sau vài phút, một trong những chiếc máy bay không người lái này định vị chính xác được ngọn lửa, sau đó truyền thông tin cho các nhóm của nó. Chúng điều chỉnh đường bay, di chuyển đến gần ngọn lửa hơn để lập bản đồ toàn bộ phạm vi của nó.

Những chiệc V-BAT mô phỏng không tuân theo mệnh lệnh trực tiếp của con người. Chúng cũng không tuân theo các mệnh lệnh được mã hóa bởi con người trong phần mềm thông thường—câu lệnh điều kiện If…then… cứng nhắc. Thay vào đó, máy bay không người lái này tự động cảm nhận và điều hướng môi trường của chúng, lập kế hoạch hoàn thành nhiệm vụ và làm việc cùng nhau trong một nhóm. Các kỹ sư của Shield AI đã đào tạo Hivemind một phần bằng cách học tăng cường, triển khai nó trên hàng nghìn nhiệm vụ mô phỏng, dần dần khuyến khích nó tập trung hoàn toàn vào các phương tiện hiệu quả nhất để hoàn thành nhiệm vụ. “Đây là những hệ thống có thể suy nghĩ và đưa ra quyết định,” Brandon Tseng, cựu binh Navy SEAL (Nhóm triển khai chiến tranh đặc biệt Hải quân Mỹ), người đồng sáng lập công ty cho biết.

Phiên bản Hivemind này bao gồm một thuật toán phụ khá đơn giản có thể xác định các vụ cháy rừng mô phỏng. Tất nhiên, một bộ thuật toán phụ khác có thể giúp một nhóm máy bay không người lái xác định bất kỳ số lượng mục tiêu nào khác — phương tiện vận tải, tàu thuyền, chiến binh. Hệ thống này cũng không bị giới hạn chỉ danh cho V-BAT. Hivemind cũng được thiết kế để lái máy bay chiến đấu F-16 và nó có thể đánh bại hầu hết các phi công con người cạnh tranh với nó trong trình giả lập. (Công ty hình dung rằng AI này sẽ trở thành “phi công hỗ trợ” trong các thế hệ máy bay chiến đấu mới hơn.) Hivemind cũng vận hành một chiếc quadcopter có tên Nova 2, đủ nhỏ để cho vào trong ba lô và có thể khám phá cũng như lập bản đồ bên trong các tòa nhà và khu phức hợp dưới lòng đất.

Đối với Lực lượng Đặc nhiệm 59—hay bất kỳ tổ chức quân sự nào đang tìm cách chuyển hướng sang AI và người máy với chi phí tương đối thấp—sức hấp dẫn của những công nghệ này là rất rõ ràng. Chúng không chỉ nâng cao tầm nhìn trên chiến trường, như Brasseur đã nói, mà còn là khả năng thể hiện sức mạnh (và, có thể sử dụng vũ lực) với ít người phải làm việc thực tế hơn. Thay vì phân công hàng tá người điều khiển máy bay không người lái tham gia nỗ lực tìm kiếm và cứu hộ hoặc nhiệm vụ trinh sát, bạn có thể sử dụng một nhóm V-BAT hoặc Nova 2. Thay vì mạo hiểm mạng sống của những phi công được đào tạo bài bản trong một cuộc tấn công trên không, bạn có thể điều động một dàn máy bay không người lái giá rẻ, mỗi chiếc được điều khiển bởi cùng một AI xuất sắc, mỗi chiếc là một phần mở rộng của một khối óc tập thể <hive mind>.

Tuy nhiên, mặc dù các thuật toán máy học có thể đáng kinh ngạc đến như thế nào, chúng vốn đã rất khó hiểu và không thể đoán trước. Trong chuyến thăm Shield AI, tôi bắt gặp một trong những máy bay không người lái Nova 2 của công ty. Nó bay lên từ sàn văn phòng và lơ lửng cách mặt tôi khoảng 1 foot (30,48cm). “Nó đang kiểm tra anh đấy,” một kỹ sư nói với tôi. Một lúc sau, chiếc máy bay không người lái bay lên và vút qua một cửa sổ mô hình ở một bên của căn phòng. Trải nghiệm này đáng lo/gây ra những thay đổi đột ngột. Ngay lập tức, thiết bị thông minh trên không nhỏ bé này đã xác định rõ về tôi. Nhưng bằng cách nào? Mặc dù các kỹ sư của Shield AI có thể tiếp cận được câu trả lời, họ có thể xem lại và phân tích các yếu tố trong quá trình ra quyết định của rô-bốt, nhưng công ty vẫn đang nỗ lực để cung cấp thông tin này cho “những người dùng không chuyên”.

Người ta chỉ cần nhìn vào cuộc sống đời thường để biết rằng công nghệ này có thể trở nên sai lầm như thế nào — hệ thống nhận dạng khuôn mặt thể hiện sự thiên vị về chủng tộc và giới tính, xe tự lái đâm sầm vào những vật thể mà chúng chưa bao giờ được huấn luyện để nhận thấy. Ngay cả với kỹ thuật cẩn thận, một hệ thống quân sự kết hợp AI có thể mắc các lỗi tương tự nhau. Một thuật toán được huấn luyện để nhận dạng xe tải của kẻ thù có thể bị nhầm lẫn bởi phương tiện dân sự. Hệ thống phòng thủ tên lửa được thiết kế để phản ứng với các mối đe dọa sắp xảy ra có thể không thể “giải thích” đầy đủ lý do tại sao nó bắn hỏng.

Những rủi ro này đặt ra các câu hỏi đạo đức mới, tương tự như những rủi ro do tai nạn liên quan đến ô tô tự lái gây ra. Nếu một hệ thống quân sự tự hành phạm sai lầm chết người, ai sẽ chịu trách nhiệm? Đó có phải là người chỉ huy phụ trách hoạt động, sĩ quan giám sát hệ thống, kỹ sư máy tính đã xây dựng các thuật toán và kết nối khối óc tập thể, hay người môi giới cung cấp dữ liệu đào tạo?

Một điều chắc chắn là: Công nghệ đang phát triển nhanh chóng. Khi tôi gặp Tseng, anh ấy nói rằng mục tiêu của Shield AI là có “một nhóm hoạt động gồm ba V-BAT vào năm 2023, sáu V-BAT vào năm 2024 và 12 V-BAT vào năm 2025.” Tám tháng sau khi chúng tôi gặp nhau, Shield AI đã triển khai một đội gồm ba chiếc V-BAT từ một căn cứ của Lực lượng Không quân để thực hiện nhiệm vụ chữa cháy rừng mô phỏng. Công ty hiện cũng tự hào rằng Hivemind có thể được huấn luyện để thực hiện một loạt nhiệm vụ — săn tìm căn cứ tên lửa, giao tranh với máy bay địch — và nó sẽ sớm có thể hoạt động ngay cả khi liên lạc bị hạn chế hoặc cắt đứt.

Trước khi rời San Diego, tôi có chuyến tham quan USS Midway, một tàu sân bay/hàng không mẫu hạm ban đầu được đưa vào hoạt động trong cuối Thế chiến II và hiện đang neo đậu thường xuyên/lâu dài ở vịnh. Trong nhiều thập kỷ, con tàu này chuyên chở một số công nghệ quân sự tiên tiến nhất thế giới, đóng vai trò là đường băng nổi cho hàng trăm máy bay thực hiện nhiệm vụ trinh sát và ném bom trong các cuộc xung đột từ Việt Nam đến Iraq. Ở trung tâm của tàu sân bay, giống như một cái dạ dày kim loại khổng lồ, là sàn chứa máy bay <hangar deck>. Những cửa vào ở một bên dẫn tới một mạng lưới nhiều phỏng và hành lang, bao gồm khu ở chật hẹp của thủy thủ, phòng ngủ thoải mái, nhà bếp, khoang khám bệnh, thậm chí cả tiệm cắt tóc và tiệm giặt ủi của các sĩ quan – một lời nhắc nhở rằng con tàu này từng là nhà của 4.000 thủy thủ và sĩ quan cùng một lúc.

Đứng ở đây, tôi có thể cảm nhận được sự chuyển đổi sang tự hành sẽ sâu sắc như thế nào. Có thể còn rất lâu nữa số lượng tàu không có thủy thủ đoàn mới vượt lên số tàu có người, thậm chí còn lâu hơn thế là khi tàu mẹ không người lái thống trị biển cả. Nhưng đội tàu <armada> robot của Lực lượng Đặc nhiệm 59, dù còn non trẻ, đã đánh dấu bước tiến vào một thế giới khác. Có thể đó sẽ là một thế giới an toàn hơn, một thế giới trong đó mạng lưới máy bay không người lái tự hành, được triển khai trên toàn cầu, sẽ giúp con người kiểm soát xung đột. Hoặc có thể bầu trời sẽ tối sầm lại với nhiều đội tấn công. Bất cứ viễn cảnh nào sắp xảy ra, những người máy sẽ đi theo hướng đó.