Một bức thư công khai cảnh báo về một “cuộc chạy đua vũ khí quân sự trí tuệ nhân tạo” đã thu thập được chữ ký của hơn 1.000 chuyên gia cao cấp và các nhà nghiên cứu hàng đầu trong lĩnh vực này, đồng thời kêu gọi ban hành lệnh cấm đối với cuộc chạy đua sản xuất loại vũ khí này.
Được trình bày tại Hội nghị Quốc tế về Trí tuệ Nhân tạo (TTNT) ở thủ đô Buenos Aires, Argentina, bức thư đã nhận được chữ ký của Giáo sư vật lý Stephen Hawking, Tổng giám đốc của Google DeepMind – Demis Hassabis, ông chủ công ty ô tô chạy điện Tesla – Elon Musk, và nhà đồng sáng lập hãng công nghệ Apple – Steve Wozniak. Ngoài ra còn có hơn 1.000 chữ ký từ các nhà nghiên cứu TTNT và robot.
Video về hội nghị:
Theo trang ABC, Giáo sư Hawking đã từng cảnh báo rằng sự phát triển của TTNT có thể báo hiệu sự kết thúc của nhân loại, trong một cuộc phỏng vấn với BBC năm ngoái: “Một khi con người phát triển trí tuệ nhân tạo, nó sẽ tự hoạt động độc lập và tự cải thiện bản thân với một tỷ lệ ngày càng nhanh. Con người, bị hạn chế bởi sự tiến hóa sinh học chậm chạp, sẽ không thể cạnh tranh và rốt cuộc sẽ bị đào thải”.
Giáo sư Toby Walsh từ Học viện Future of Life (tạm dịch: Học viện đời sống tương lai) cho biết: “Nhiều nhà khoa học hàng đầu trong lĩnh vực của chúng tôi đã lên tiếng. Chúng tôi hy vọng sẽ nâng cao nhận thức của công chúng về một chủ đề khốc liệt, mà chắc chắn sẽ có một ảnh hưởng tai hại đối với toàn thể nhân loại.
“Chúng ta có thể chỉnh lại cho đúng ngay ở giai đoạn còn tương đối sớm hiện nay, hoặc chúng ta có thể ngồi chờ đợi và chứng kiến sự ra đời một kỷ nguyên chiến tranh mới.
“Thẳng thắn mà nói, đó không phải là viễn cảnh nhiều người trong chúng ta muốn đối mặt.
“Lời kêu gọi hành động của chúng tôi khá đơn giản—ban hành lệnh cấm vũ khí tấn công tự hành, nhờ đó đảm bảo một tương lai an toàn cho tất cả chúng ta”, theo tờ Daily Mail.
Bằng những ngôn từ mạnh mẽ, bức thư kêu gọi ban hành một lệnh cấm ngay tức khắc đối với “vũ khí tấn công tự trị ngoài tầm kiểm soát của con người”, với mục đích ngăn chặn một cuộc chạy đua vũ khí TTNT toàn cầu.
Các chuyên gia cũng chỉ ra rằng vũ khí TTNT không đòi hỏi các nguyên vật liệu tốn kém hoặc khó tìm.
Bức thư cũng nói rằng công nghệ TTNT đã đạt đến một mức độ khi việc triển khai các hệ thống như vậy sẽ trở nên khả thi chỉ trong vài năm, thay vì vài thập kỷ. Chính vì vậy sẽ chỉ còn là vấn đề thời gian trước khi những vũ khí này bắt đầu xuất hiện trên thị trường chợ đen, nơi những kẻ độc tài, những lãnh chúa, và ngay cả những tên khủng bố có thể thu mua.
“Đích đến của con đường công nghệ này rất rõ ràng: vũ khí tự hành sẽ trở thành súng AK-47 của ngày mai. Câu hỏi then chốt đối với nhân loại hiện nay là: chúng ta nên bắt đầu một cuộc chạy đua vũ khí TTNT toàn cầu hay nên ngăn chặn nó ngay từ đầu,” các tác giả nói.
Bức thư công khai
Vũ khí tự hành: Bức thư công khai từ các nhà nghiên cứu TTNT & Robot
vũ khí tự hành lựa chọn và tấn công mục tiêu mà không cần sự can thiệp của con người. Chúng bao gồm, ví dụ, máy bay drone quân sự có thể tìm kiếm và sát nhân theo những tiêu chuẩn nhất định được thiết lập sẵn, nhưng không bao gồm tên lửa hành trình hay các máy bay drone mà con người quyết định mục tiêu tấn công.
Công nghệ TTNT đã đạt đến một mức độ khi việc triển khai các hệ thống như vậy—trên thực tiễn, nếu không xét về mặt pháp lý—sẽ trở nên khả thi chỉ trong vòng vài năm, thay vì vài thập kỷ, và nguy cơ là khá cao:
Vũ khí tự hành được miêu tả như cuộc cách mạng thứ ba trong chiến tranh, sau thuốc súng và vũ khí hạt nhân.
Nhiều lý lẽ ủng hộ lẫn phản đối việc sử dụng vũ khí tự hành đã được đưa ra. Ví như việc thay thế quân đội bằng máy móc sẽ giúp giảm thiểu số thương vong, nhưng như vậy cũng hạ thấp tiêu chuẩn tuyển binh tham gia chiến trận. Câu hỏi then chốt đối với nhân loại hiện nay là chúng ta nên bắt đầu một cuộc chạy đua vũ khí TTNT mang tính toàn cầu hay nên ngăn chặn nó ngay từ đầu.
Nếu bất kỳ thế lực quân sự hùng mạnh nào đẩy mạnh việc phát triển vũ khí TTNT, thì một cuộc chạy đua vũ trang mang tính toàn cầu sẽ là gần như không thể tránh khỏi, và đích đến của con đường công nghệ này là khá rõ ràng: vũ khí tự hành sẽ trở thành súng AK-47 của ngày mai. Khác với vũ khí hạt nhân, chúng không đòi hỏi các nguyên vật liệu tốn kém hoặc khó tìm, do đó chúng sẽ có giá rẻ và đầy rẫy, từ đó tạo điều kiện cho tất cả các cường quốc quân sự sản xuất hàng loạt.
Sẽ chỉ còn là vấn đề về thời gian trước khi những vũ khí này xuất hiện trên thị trường chợ đen và rơi vào tay của những tên khủng bố, những kẻ độc tài mong muốn tăng cường kiểm soát dân chúng, những lãnh chúa âm mưu thanh lọc sắc tộc… vũ khí tự hành là một công cụ rất lý tưởng cho các nhiệm vụ ám sát, phá vỡ ổn định quốc gia, kiểm soát dân chúng và sát hạt có chọn lọc một nhóm dân tộc cụ thể.
Do đó chúng tôi tin rằng một cuộc chạy đua vũ khí quân sự TTNT sẽ không có lợi cho nhân loại. Có rất nhiều cách để TTNT có thể khiến việc chiến đấu trên chiến trường trở nên an toàn hơn đối với con người, đặc biệt là dân thường, trong khi không tạo ra những công cụ sát nhân mới.
Hầu hết các nhà hóa học và sinh học không hứng thú với việc chế tạo vũ khí hóa học hoặc vũ khí sinh học, tương tự như thế, hầu hết các nhà nghiên cứu TTNT cũng không quan tâm đến việc chế tạo vũ khí TTNT — và không muốn người khác tạo tiếng xấu cho lĩnh vực của họ bằng cách làm như vậy. Vì các hành động như vậy sẽ có thể khơi dậy phản ứng dữ dội từ công chúng nhằm chống lại TTNT, từ đó cắt giảm các lợi ích xã hội tiềm năng trong tương lai của lĩnh vực này. Quả thật, các nhà hóa học và sinh học đã ủng hộ rộng rãi các hiệp định quốc tế đã thành công trong việc cấm vũ khí hóa học và sinh học, cũng giống như việc hầu hết các nhà vật lý đã ủng hộ các hiệp ước cấm vũ khí hạt nhân trong không gian và vũ khí laser.
Tóm lại, chúng tôi tin rằng TTNT có tiềm năng mang lại lợi ích to lớn cho nhân loại bằng nhiều cách khác nhau, và mục tiêu của lĩnh vực này nên là như vậy. Bắt đầu một cuộc chạy đua vũ khí quân sự TTNT là một ý tưởng tồi tệ, và nên được ngăn chặn bằng việc ban hành một lệnh cấm vũ khí tấn công tự trị ngoài tầm kiểm soát của con người.
Tác giả: Troy Oakes, Vision Times.
Đăng tải với sự cho phép. Đọc bản gốc ở đây.
Thanh Hải biên dịch
Xem thêm: