Lời Người Dịch
Năm 1997, máy tính Deep Blue đánh bại vua cờ Kasparov.
Năm 2011, máy tính Watson đánh bại hai nhà vô địch Brad Rutter và Ken Jennings trong trò chơi đố chữ Jeopardy!
Năm 2016, máy tính AlphaGo đánh bại nhà vô địch Lee Sedol trong môn cờ vây, một chuyện trước đó ít lâu người ta còn nhận định “sẽ không bao giờ xảy ra” vì cờ vây không chỉ đòi hỏi logic, mà còn cả linh cảm và trực giác.
“Trí tuệ nhân tạo sẽ trở nên cực mạnh trong một tương lai gần và chúng sẽ xóa sổ con người khỏi Trái đất”, đấy là điều tác giả muốn nói trong cuốn sách này. Nếu phải tóm tắt nó trong một câu thì chính là như vậy. Không có cách nói giảm nói tránh nào khác. Tôi nghĩ rằng đọc đến đây phần lớn bạn đọc đã muốn quẳng cuốn sách này vào chỗ bạn vừa lấy nó ra. Nhưng, gượm một phút, chỉ một phút thôi, để tôi kể với bạn một danh sách ngắn những người đồng ý với câu trên.
- Stephen Hawking, nhà vật lý lý thuyết thiên tài người Anh, tác giả cuốn sách khoa học nổi tiếng A Brief History of Time(Lược sử thời gian), người đã trở thành nhân vật chính trong bộ phim The Theory of Everything (Thuyết vạn vật) của Hollywood.
- Bill Gates, tỉ phú Mỹ, đồng sáng lập Microsoft, từng là người giàu nhất thế giới và cũng là nhà hoạt động từ thiện vĩ đại.
- Elon Musk, tỉ phú Mỹ, chủ nhân của SpaceX và Tesla, vì những đóng góp cho công nghệ mà ông được hâm mộ ở khắp nơi và nhiều người nghĩ ông sẽ thay đổi bộ mặt thế giới.
- Larry Page, tỉ phú Mỹ, đồng sáng lập Google. Ông hiện là người tích cực nhất trong cuộc chạy đua phát triển trí tuệ nhân tạo.
- Peter Thiel, tỉ phú Mỹ, đồng sáng lập Paypal, cổ đông lớn của Facebook. Ông là người đỡ đầu của rất nhiều dự án mạo hiểm và các startup ở Thung lũng Silicon.
- Frank Wilczek, nhà vật lý lý thuyết người Mỹ, đoạt giải Nobel năm 2004.
- Steve Wozniak, nhà phát minh người Mỹ, đồng sáng lập Apple.
Và những người không tuyên bố công khai nhưng đang tập trung vào AI như Jeff Bezos (Amazon), Mark Zuckerberg (Facebook)… Họ, phần lớn từ Thung lũng Silicon và nhiều người thuộc giới công nghệ, học thuật, nghiên cứu trên khắp thế giới như Peter Norvig (Google), Martin Rees (Đại học Cambridge), Vernor Vinge (Đại học San Diego), Nick Bostrom (Đại học Oxford), Clive Sinclair… đều tin vào điều đó, tuy có một số ít người sẽ thay nửa sau của câu trên để trở thành “Trí tuệ nhân tạo sẽ trở nên cực mạnh trong một tương lai gần và chúng sẽ đưa loài người tới thiên đường.” Vào đầu năm 2015, họ và hơn 8.000 người khác đã cùng ký vào một thư ngỏ, nhấn mạnh sự cần thiết phải nghiên cứu kỹ lưỡng mọi mặt của vấn đề AI.
Nếu bạn đang đọc đến đây, nghĩa là bạn đã tin tôi một chút. Những người tài giỏi và thông minh như vậy tin vào điều này, hẳn nó không phải là một lời tiên đoán vớ vẩn về ngày tận thế.
James Barrat không phải là người đầu tiên đưa ra quan điểm đó. Khi ông viết cuốn này vào năm 2013, khái niệm “Singularity”, tức Điểm kỳ dị công nghệ khi trí tuệ nhân tạo tiến bộ vượt quá cấp độ hiểu biết của con người, đã trở thành một trào lưu trên thế giới, thậm chí là mốt thời thượng. Người ta nói về nó ở khắp mọi nơi, dẫn đến chuyện nó đã xuất hiện trong hai bộ phim Hollywood nổi tiếng là Transcendence (Trí tuệ siêu việt) và Ex Machina(Người máy trỗi dậy), trong đó Ex Machina là một bộ phim rất xuất sắc. Người đã phổ biến khái niệm Singularity này với thế giới là Ray Kurzweil. Tuy những ý tưởng về sự thống trị của máy tính đã có từ lâu, nhưng phải đến Kurzweil người ta mớí thực sự nhìn nhận nó như một hệ thống tư tưởng logic và nghiêm túc. Trong hai cuốn sách nổi tiếng nhất của mình, The Age of Spiritual Machines: When Computers Exceed Human Intelligence (Thời đại của máy móc có tâm hồn: Khi máy tính vượt qua trí tuệ con người) và The Singularity is Near (Singularity đã cận kề), Kurzweil đã sử dụng Định luật Hồi quy Tăng tốc để tiên đoán tương lai. Nó nói rằng các tiến bộ trong công nghệ đã, đang và sẽ đi theo một đường cong dốc đứng của hàm mũ, chứ không phải với một tốc độ ổn định. Chúng ta đang đứng ở đoạn sắp dốc ngược lên. Chính vì thế, trong một tương lai gần, máy tính hay trí tuệ nhân tạo sẽ trở nên cực mạnh, nó sẽ giải quyết hầu hết những vấn đề của con người như năng lượng, nạn đói, ô nhiễm môi trường, sự nóng lên toàn cầu, bệnh tật, và thậm chí cả cái chết. Kurzweil tiên đoán một utopia, một thiên đường toàn hảo cho nhân loại đang đến gần. Bản thân con người sẽ trở thành những siêu nhân khi họ kết hợp với máy móc, theo cách này hay cách khác.
Bằng những dự đoán tương lai của mình, Kurzweil đã tạo ra phong trào Singularity. Ông dẫn đầu những người theo quan điểm lạc quan. Nhưng, như người ta vẫn nói, “chuyện gì quá tốt đẹp thì khó có thể là thật.” Bạn thấy đấy, nhiều người thông minh đã nghi ngờ ông. Trong năm năm gần đây, quan điểm mạt thế, dystopia, đang dần thay thế cho quan điểm của Kurzweil. Phần lớn họ vẫn đồng ý rằng trí tuệ nhân tạo sẽ trở nên cực mạnh vào khoảng giữa thế kỷ này, nhưng cho rằng những gì xảy ra sau đó sẽ hoàn toàn khác với các dự liệu của Kurzweil.
Có nhiều khả năng chúng ta, hoặc con chúng ta, sẽ là thế hệ sau cùng trên Trái đất.
“Cứ cho là thế đi. Nhưng tôi chả biết gì cả, tôi chỉ là một người bình thường, nhỏ bé. Và kể cả có biết thì liệu có thay đổi được gì?” Có lẽ bạn đang nghĩ thế.
Có thể bạn đúng. Có thể không. Dù vậy, tác phẩm này không chỉ đơn thuần là một dự đoán tương lai. Để đi đến các dự đoán đó, tác giả đã phải tìm kiếm và phân tích rất nhiều thông tin. Cuốn sách này chứa đựng nhiều nhận thức sâu và mới, những thứ có ích ngay cả đối với một người bình thường như tôi.
Cũng giống như bạn và tôi, Barrat chỉ là một người bình thường. Ông không phải là chuyên gia hàng đầu về trí tuệ nhân tạo, không phải là một tỉ phú công nghệ, và cũng không phải là triết gia nổi tiếng. Ông là một phóng viên, một người làm phim tài liệu. Bản thân cuốn sách này là một tập hợp các cuộc phỏng vấn. Cái ông muốn nói chỉ là một thực trạng đơn giản, bằng một thứ ngôn ngữ dễ hiểu, và sự thật đó mang tính quan trọng sống còn đối với chúng ta: Trí tuệ nhân tạo là một cơn sóng thần khổng lồ, và con người là những sinh vật tí hon đang đứng trên bờ cát. Ngay bây giờ đã có thể nhìn thấy nó ở khoảng cách không xa. Chúng ta có thể lựa chọn hoặc đối diện với nó, hoặc ngoảnh mặt đi. Nhưng sẽ không có nơi nào để chạy. Khi nó đến, nó sẽ thay đổi mọi thứ: chính trị, kinh tế, tài chính, sản xuất, lao động, y học, giáo dục, khoa học, nghệ thuật… và cả chiến tranh, với một tốc độ khủng khiếp. Thế giới sẽ có những biến động không thể hình dung nổi vào những thập niên sắp tới. James Barrat đã khiến tôi hiểu ra những điều đó.
Thế nhưng, thú thật với bạn, tôi không hề quan tâm. Ít ra là lúc đầu. Cứ cho là xã hội loài người sẽ điêu tàn vào năm 2045 đi, thì đã sao? Ai cũng phải chết một lần. 30 năm nữa tôi đã gần 70, thành cái bóng mờ của tôi hôm nay, nếu tôi sống được đến lúc đó. Tôi chỉ là một người bình thường và hiện tại cũng đã đủ mệt mỏi rồi. Tôi đã nghĩ như thế.
Thế rồi tôi có con.
Những thiên thần ấy trở thành những mặt trời của tôi, lẽ sống của tôi. Khi tôi ngắm nhìn con, thế giới trở nên sáng rõ hơn dưới ánh sáng của trách nhiệm và tình yêu. Đúng là những chuyện khủng khiếp và vĩ đại có thể xảy ra sau 30, 40 năm nữa. Nhưng điều đó không có nghĩa rằng từ bây giờ đến lúc đó, cuộc sống vẫn diễn ra không có gì thay đổi. Ngược lại, tất cả mọi thứ sẽ thay đổi, càng ngày càng nhanh.. Thực ra, tất cả mọi thứ đã bắt đầu thay đổi.
Quá trình đó đã bắt đầu rồi. Không khó để nhận thấy điều đó. Là một người cha, tôi có bổn phận phải chuẩn bị cho con mình những kỹ năng và kiến thức cần thiết, đặc biệt là khi một thời đại mới đang tới gần. Tôi cần phải hướng con mình vào những con đường đúng.
Chẳng hạn như về giáo dục con. Tôi sẽ để con tôi học những gì? Như bạn sẽ thấy trong nhiều phân tích ở cuốn sách này, với những tiến bộ không ngừng trong ngành AI, nền kinh tế sẽ trở nên tri thức hơn bao giờ hết. Thời của thuê ngoài, của các nền kinh tế tận dụng nhân công giá rẻ đã qua. Ngay lúc này, các tập đoàn công nghệ lớn đã bắt đầu rút khâu sản xuất khỏi Trung Quốc, vì chi phí cho sản xuất bằng robot đã bắt đầu trở nên rẻ hơn cả những thị trường nhân công rẻ nhất. Lượng người thất nghiệp khổng lồ sắp tới sẽ tạo ra những biến động chính trị và xã hội đáng lo ngại.
Trí tuệ nhân tạo sẽ thâm nhập sâu sắc và toàn diện vào tất cả các ngành nghề: tài chính, ngân hàng, chứng khoán, kỹ thuật, luật, giáo dục, y, dược, thậm chí cả nghiên cứu khoa học và nghệ thuật. Thay vì có kiến thức tài chính tổng hợp tốt và có nhiều quan hệ, các nhà đầu tư chứng khoán chuyên nghiệp tương lai sẽ là những người lập trình ra các giải thuật mua bán, hoặc tinh chỉnh nó theo phong cách của mình. Các bác sĩ phẫu thuật tài giỏi sẽ không chỉ là những người có đôi tay khéo léo tuyệt vời, mà còn phải là người biết tương tác và điều khiển những robot phẫu thuật có vô số tay và độ chính xác đến từng micromet, họ sẽ làm việc với màn hình thay vì dao kéo. Chỉ cần quan sát một con lắc dao động, một trí tuệ nhân tạo đã tái phát minh ra các định luật vật lý của Newton. Và có thể bạn sẽ không tin, nhưng đã có những bức tranh đầu tiên được vẽ và những bài thơ đầu tiên được viết ra, mà không phải của con người.
Robot sẽ làm phần lớn công việc trong các ngành bán lẻ, xây dựng, khai thác, sản xuất, vận tải, viễn thông, du lịch, nông nghiệp, lâm nghiệp, thủy sản, và đến một lúc nào đó là cả giải trí. Thế giới mới sẽ không còn cần những người lao động trình độ thấp.
Nói một cách đơn giản, tôi sẽ cho các con tôi học lập trình. Từ rất nhỏ.
Lập trình sẽ là tiếng Anh của thời đại mới. Lập trình sẽ là kỹ năng thiết yếu nhất. Điều này sẽ không khó hiểu, nếu bạn nhìn sự vật theo một cách khác: cũng như ở thời điểm những năm 1990, ta bắt đầu cần tiếng Anh để giao tiếp, hội nhập với những cường quốc mạnh nhất thế giới, thì trong tương lai, lập trình chính là ngôn ngữ duy nhất để con người “nói chuyện” với máy tính, giống loài đang ngày một lớn mạnh và sẽ thống trị hành tinh này, dù loài người có muốn hay không.
Ngoài chuyện dạy các con mình những kỹ năng làm việc, tôi còn cần phải nói với chúng về những giá trị cốt lõi của cuộc sống. Trí tuệ nhân tạo đến và sẽ làm xáo trộn thế giới. Cuộc sống con người sẽ thay đổi vĩnh viễn. Sẽ có vô số vực thẳm được tạo ra, những sự kiện chưa từng có. Và có lẽ, một thứ mà con người chưa từng phải đối mặt sẽ xuất hiện: một cuộc sống có thời hạn, một cuộc sống có deadline. Khi công nghệ xâm nhập vào máu, vào các giác quan, vào tận những neuron thần kinh trong não, mọi khía cạnh của con người sẽ được định nghĩa lại. Những câu hỏi hiện sinh lâu nay vốn bị lãng quên trong đời sống siêu tiêu thụ như:
“Mục đích của đời tôi là gì?”
“Tiền quan trọng đến mức nào?”
“Diện mạo quan trọng đến mức nào?”
“Điều gì tạo nên bản thể của tôi, tâm hồn của tôi?”
“Nhân tính là gì?”
“Hạnh phúc là gì?”
Và cuối cùng “Con người có đáng sống không?”
Tất cả chúng sẽ trở lại, thôi thúc, mạnh mẽ hơn bao giờ hết. Vì, nói như Barrat, chúng ta đang đứng trước những năm tháng quan trọng nhất trong lịch sử toàn nhân loại, và rất có thể, câu trả lời cho những câu hỏi trên sẽ không chỉ quyết định cuộc đời của chúng ta, mà còn cả sự sống sót của loài người.
Làm sao tôi có thể nói với con mình tất cả những điều đó, nếu tôi chọn cho mình cách nhắm mắt bịt tai? Cuốn sách đơn giản nhưng vô cùng quan trọng này, đối với tôi, là một phóng sự thú vị, và là bước đầu tiên của một hành trình nhận thức mới.
Tôi muốn được chia sẻ nó với các bạn.
Hà Nội tháng 12 năm 2017
CHU KIÊN
***
James Rodman Barrat (sinh năm 1960) là một nhà làm phim tài liệu, diễn giả người Mỹ.
Năm 2014, tạp chí Time đã bình chọn Barrat là một trong “năm người rất thông minh nghĩ rằng trí tuệ nhân tạo có thể dẫn đến ngày tận thế.”
Phát minh cuối cùng được Huffington Post xếp hạng là một trong tám “cuốn sách công nghệ hay nhất năm 2013.” Ông cũng được CNN và BBC phỏng vấn về trí tuệ nhân tạo.
***
Lời Nói Đầu
Cách đây vài năm, tôi ngạc nhiên khi phát hiện ra mình có điểm chung với khá nhiều người lạ. Họ là những người tôi chưa từng gặp – các nhà khoa học, giáo sư đại học, rồi những nhà tiên phong⦾, kỹ sư, lập trình viên, blogger và nhiều nữa ở Thung lũng Silicon. Họ phân bố rải rác ở Bắc Mỹ, châu Âu và Ấn Độ – tôi sẽ không bao giờ biết bất cứ ai trong họ nếu Internet không tồn tại. Điểm chung giữa những người lạ đó và tôi là tư tưởng hoài nghi về độ an toàn của việc phát triển trí tuệ nhân tạo cao cấp. Độc lập hoặc theo từng nhóm nhỏ hai đến ba người, chúng tôi nghiên cứu tài liệu và xây dựng các lập luận. Cuối cùng thì tôi mở rộng việc tìm kiếm và kết nối với một mạng lưới những nhà tư tưởng ở trình độ cao và tinh tế hơn nhiều, kể cả những tổ chức nhỏ, họ tập trung vào vấn đề này đến mức tôi không hình dung nổi. Sự nghi ngờ về AI không phải là thứ duy nhất chúng tôi chia sẻ. Chúng tôi còn tin rằng thời gian để hành động và đề phòng thảm họa không còn nhiều.
Tôi làm phim tài liệu đã hơn 20 năm nay. Vào năm 2000, tôi phỏng vấn tác giả truyện khoa học viễn tưởng nổi tiếng Arthur C. Clarke, nhà phát minh Ray Kurzweil, và người tiên phong về robot Rodney Brooks. Kurzweil và Brooks vẽ ra một viễn cảnh màu hồng, thậm chí ngất ngây về một tương lai trong đó chúng ta sống chung với những cỗ máy thông minh. Nhưng Clarke ám chỉ rằng chúng ta sẽ bị vượt mặt. Cách đây một thập niên, tôi say sưa với tiềm năng AI. Giờ đây sự hoài nghi về cái viễn cảnh màu hồng ấy ăn sâu vào suy nghĩ của tôi và trở thành một khối u.
Nghề của tôi đòi hỏi lối suy nghĩ phản biện – một nhà làm phim tài liệu cần phải cảnh giác khi các câu chuyện có vẻ quá tốt vì nó khó là thật. Bạn có thể phí phạm hàng tháng hoặc hàng năm trời làm một bộ phim về một thứ lừa đảo, hoặc thậm chí vô tình tham gia vào nó. Trong đó, tôi từng điều tra về độ xác thực của phúc âm về Judas Iscariot (có thật), về một ngôi mộ được cho là của Jesus xứ Nazareth (tin vịt), về lăng mộ gần Jerusalem của Herod Đại đế (chắc chắn), và về lăng mộ của Cleopatra trong đền thờ thần Osiris ở Ai Cập (rất đáng nghi). Rồi có lần, một phát thanh viên nhờ tôi trình bày một đoạn phim về UFO cho có vẻ đáng tin, tôi phát hiện đoạn phim này thực ra là một lô thủ thuật lừa đảo – ném đĩa, chụp chồng hình, cùng một số kỹ thuật ánh sáng và ảnh ảo khác. Tôi đề nghị làm một bộ phim về các kiểu lừa đảo thay vì UFO. Tôi bị sa thải.
Nghi ngờ AI là một việc khá khó chịu, vì hai lý do. Thứ nhất, việc nghiên cứu về triển vọng của nó đã gieo vào đầu tôi ý định tìm hiểu thêm, chứ không phải nghi vấn. Và thứ hai, tôi không nghi ngờ gì về sự tồn tại hay sức mạnh của AI. Cái làm tôi lo lắng là tính an toàn của AI cao cấp và sự khinh suất trong việc phát triển các công nghệ nguy hiểm của nhân loại. Tôi đã bị thuyết phục rằng những chuyên gia thông tuệ dường như đều bị mê muội, họ không hề đặt ra một nghi ngờ nào về tính an toàn của AI. Tôi tiếp tục nói chuyện với những người hiểu biết về AI, và những điều họ nói ra thậm chí còn đáng báo động hơn những gì tôi đã phỏng đoán. Tôi quyết định viết một cuốn sách thuật lại những cảm xúc và mối quan tâm của họ, truyền đạt ý tưởng này đến với càng nhiều người càng tốt.
Để viết cuốn sách này, tôi đã nói chuyện với các nhà khoa học đang xây dựng trí tuệ nhân tạo cho robot, cho việc tìm kiếm trên Internet, khai thác dữ liệu, nhận dạng giọng nói và khuôn mặt, cùng những ứng dụng khác. Tôi đã nói chuyện với các nhà khoa học đang tìm cách tạo ra trí tuệ nhân tạo ở cấp độ ngang với con người, thứ sẽ có vô số ứng dụng và sẽ thay đổi về cơ bản cuộc sống của chúng ta (nếu nó không giết chúng ta trước). Tôi đã nói chuyện với giám đốc kỹ thuật của các công ty AI và các nhà tư vấn kỹ thuật về các sáng kiến tối mật của Bộ Quốc phòng. Tất cả những người đó đều tin rằng trong tương lai, mọi quyết định quan trọng ảnh hưởng đến cuộc sống của nhiều người đều được máy móc hoặc những người mà trí não được máy móc tăng cường đưa ra. Khi nào? Nhiều người nghĩ rằng những điều này sẽ xảy ra trong thời họ sống.
Sự khẳng định này khá bất ngờ, tuy nhiên không hẳn là khó chấp nhận. Điện toán đã thâm nhập sâu vào hệ thống tài chính của chúng ta, vào các mạng lưới cơ sở hạ tầng dân dụng như năng lượng, nước và giao thông. Điện toán có mặt trong các bệnh viện, trong xe ô tô và ứng dụng, trong laptop, máy tính bảng và điện thoại thông minh của chúng ta. Rất nhiều máy tính chạy tự động không cần con người điều khiển, ví dụ như loại máy tính thực hiện các lệnh mua bán ở phố Wall. Phụ thuộc là cái giá phải trả cho tất cả những sự tiện lợi, tiết kiệm nhân công và giải trí mà máy tính mang lại cho ta. Chúng ta phụ thuộc ngày một nhiều hơn. Cho đến nay mọi sự vẫn tốt đẹp.
Nhưng trí tuệ nhân tạo thổi sinh khí vào máy tính và biến nó thành một thứ khác. Nếu trước sau gì máy tính cũng sẽ quyết định hộ chúng ta, vậy thì khi nào nó sẽ có sức mạnh này, và liệu điều đó có diễn ra như chúng ta mong muốn? Bằng cách nào nó sẽ đạt được quyền kiểm soát, và nhanh đến mức nào? Đó là những câu hỏi mà tôi đặt ra trong cuốn sách này.
Một số nhà khoa học tranh luận rằng sự chiếm đoạt quyền lực này sẽ diễn ra một cách hòa bình và đồng thuận – một sự bàn giao thay vì chiếm đoạt. Nó sẽ xảy ra tuần tự, cho nên chỉ có những kẻ gây rối mới ngăn cản, còn hầu hết mọi người sẽ không thắc mắc, vì cuộc sống sẽ tốt đẹp hơn nhờ có sự quản trị của một thứ thông minh hơn, quyết định điều gì là tốt nhất cho chúng ta. Thêm nữa, một hoặc những AI siêu thông minh sẽ điều khiển thế giới có thể là một hoặc nhiều người được cấy ghép máy tính, hoặc một người được tải vào máy tính, hoặc một bộ não siêu kích hoạt, chứ không phải là những robot lạnh lẽo, phi nhân tính. Khi đó quyền lực của họ sẽ dễ được chấp nhận hơn. Cuộc chuyển giao cho máy móc mà một số nhà khoa học đã vẽ ra thực tế không khác gì mấy với cuộc sống mà bạn và tôi đang trải qua bây giờ – tuần tự, trơn tru, vui vẻ.
Sự chuyển dịch êm ái sang chế độ máy tính lãnh đạo sẽ xảy ra một cách suôn sẻ và có lẽ là an toàn, nếu không vì một thứ: trí thông minh. Trí thông minh không chỉ khó lòng đoán định được ở một vài thời điểm, hoặc trong một số trường hợp đặc biệt. Vì những lý do mà chúng ta sẽ khảo sát, các hệ thống máy tính đủ cao cấp để hành động ngang với trí thông minh cấp độ con người sẽ luôn trở nên không thể đoán trước và không thể thăm dò. Chúng ta sẽ không hiểu được một cách cặn kẽ những hệ thống có khả năng tự nhận thức đó sẽ làm gì hoặc chúng làm điều đó ra sao. Sự bí hiểm đó sẽ kết hợp với những kiểu tai nạn xảy ra từ sự phức tạp vốn có của AI, và từ những sự kiện đặc thù đối với trí thông minh, như thứ mà chúng ta sẽ thảo luận có tên “sự bùng nổ trí thông minh.”
Vậy thì bằng cách nào máy tính sẽ đoạt lấy quyền lực? Trong kịch bản tốt nhất, dễ xảy ra nhất, chúng ta có bị nguy hiểm gì không?
Khi được hỏi câu này, một số nhà khoa học nổi tiếng nhất trả lời tôi bằng cách dẫn ra Ba định luật về robot của nhà văn khoa học viễn tưởng Isaac Asimov. Họ nói đầy hứng khởi, những định luật này sẽ được “tích hợp” vào những AI, vậy là chúng ta không có gì phải sợ. Họ nói cứ như thể điều này đã được khoa học chứng minh. Chúng ta sẽ thảo luận về Ba định luật này ở Chương 1, nhưng hiện giờ có thể nói trước rằng khi ai đó đưa ra định luật Asimov như là một giải pháp cho thế lưỡng nan của các cỗ máy siêu thông minh, thì điều đó có nghĩa là họ đã dành quá ít thời gian để suy nghĩ hoặc trao đổi về vấn đề này. Phương thức tạo ra những cỗ máy thông minh thân thiện và sự đáng sợ của các máy tính siêu thông minh là chuyện ở trên tầm trò chơi ngôn từ của Asimov. Có năng lực và thành đạt trong ngành AI không có nghĩa là bạn không ngây thơ trong nhận thức về những mối nguy của nó.
Tôi không phải là người đầu tiên cho rằng chúng ta đang đi trên con đường diệt vong. Nhân loại sẽ phải đấu tranh sinh tồn trước vấn đề này. Cuốn sách này sẽ cho biết tại sao tương laỉ chúng ta có thể sẽ nằm trong tay máy móc, những thứ không nhất thiết phải căm ghét chúng ta, nhưng sẽ có những hành vi không thể đoán định, khi chúng đạt đến những cấp độ cao của thứ quyền năng mạnh mẽ khó lường nhất trong vũ trụ, những cấp độ mà chính chúng ta không thể tự đạt tới, thì lúc ấy cách hành xử của chúng sẽ không tương thích với sự tồn tại của loài người. Thứ quyền năng rất không ổn định và bí hiểm mà tự nhiên mới chỉ tạo ra hoàn chỉnh được đúng một lần – trí thông minh.
Mời các bạn đón đọc Phát Minh Cuối Cùng của tác giả James Barrat & Chu Kiên (dịch).