Trí thông minh nhân tạo và sự ngu xuẩn tự nhiên

(Mưa trích dịch từ “21 lessons for the 21th century” của Yuval Noah Harari)

Một cảnh trong series Westworld

Có một mẩu tin tốt lành là ít nhất trong một vài thập kỷ tới, chúng ta sẽ không phải đối mặt với cơn ác mộng khoa-học-viễn-tưởng rằng AI sẽ đạt tới ý thức (consciousness) và quyết định nô dịch hoặc tiêu diệt loài người. Chúng ta sẽ ngày càng dựa vào các thuật toán để đưa ra quyết định, nhưng sẽ rất ít khả năng các thuật toán sẽ thao túng chúng ta một cách có ý thức. Chúng sẽ không có chút ý thức nào.

Khoa học viễn tưởng thường nhầm lẫn trí thông minh với ý thức, và cho rằng để đuổi kịp hoặc vượt qua trí tuệ con người, máy tính sẽ phải phát triển ý thức. Cốt truyện cơ bản của hầu hết phim và sách về AI đều xoay quanh một thời điểm kỳ ảo khi một chiếc máy tính hoặc một robot có được ý thức. Khi điều đó xảy ra, thì hoặc là nhân vật chính loài người rơi vào tình yêu với con robot, hoặc con robot cố giết tất cả con người, hoặc cả hai thứ xảy ra cùng một lúc.

Trong thực tế, không có lý do để cho rằng trí thông minh nhân tạo sẽ đạt tới ý thức, vì trí thông minh và ý thức là hai thứ hoàn toàn khác nhau. Trí thông minh là khả năng giải quyết vấn đề. Ý thức là khả năng cảm thụ những thứ như là đau đớn, hoan lạc, yêu thương và giận dữ. Chúng ta thường lẫn lộn hai khái niệm này bởi vì ở loài người và các động vật có vú khác trí thông minh thường đi cùng với ý thức. Động vật có vú giải quyết các vấn đề bằng cảm thụ. Trong khi đó, máy tính giải quyết vấn đề theo cách hoàn toàn khác.

Có một số con đường khác nhau dẫn đến trí thông minh cao cấp, và chỉ một vài trong số những con đường này có liên quan đến việc đạt tới ý thức. Cũng giống như máy bay bay nhanh hơn chim mà không hề phát triển lông vũ, máy tính cũng có thể xử lý vấn đề tốt hơn động vật có vú mà không cần phát triển khả năng cảm thụ. Đúng là AI sẽ phải phân tích chính xác cảm giác của con người để chữa bệnh cho họ, nhận ra quân khủng bố, làm mai mối hoặc di chuyển giữa đường phố đầy khách bộ hành. Nhưng nó có thể làm như thế mà không cần có chút cảm giác nào của riêng nó. Một thuật toán không cần phải cảm thấy vui vẻ, tức giận hay sợ hãi để nhận ra các mẫu sinh hóa (biochemistry patterns) khác nhau của những con vượn vui vẻ, tức giận hay sợ hãi.

Tất nhiên, không phải hoàn toàn không có khả năng là AI sẽ phát triển cảm giác của riêng nó. Chúng ta chưa biết đủ nhiều về ý thức để có thể chắc chắn về việc này. Nhìn chung, có ba khả năng mà chúng ta cần cân nhắc:

  1. Ý thức có liên hệ với các thực thể sinh hóa hữu cơ theo một cách nhất định nào đó khiến cho việc tạo ra ý thức trên các hệ thống vô cơ là bất khả.
  2. Ý thức không có liên hệ với các thực thể sinh hóa hữu cơ, nhưng nó liên hệ với trí thông minh theo một cách nhất định khiến cho máy tính có khả năng phát triển ý thức, và máy tính sẽ PHẢI phát triển ý thức nếu chúng muốn vượt qua một ngưỡng thông minh nhất định.
  3. Không có chút liên hệ nào giữa ý thức và hệ thống sinh hóa hữu cơ lẫn trí thông minh cao cấp. Vì thế máy tính có thể phát triển ý thức – nhưng không nhất thiết như vậy. Chúng có thể trở nên siêu thông minh trong khi không có chút ý thức nào.

 Ở mức độ hiểu biết hiện tại, chúng ta không thể loại trừ bất cứ khả năng nào trong các khả năng trên. Nhưng chính xác vì chúng ta biết quá ít về ý thức, có rất ít khả năng chúng ta có thể sớm tạo ra các máy tính có ý thức. Nên mặc cho sức mạnh ghê gớm của trí thông minh nhân tạo, trong tương lai có thể dự đoán được (foreseeable future), việc sử dụng nó vẫn ít nhiều sẽ cần đến ý thức của con người.

Hiểm họa nằm ở chỗ nếu chúng ta dồn quá nhiều nguồn lực vào phát triển AI và quá ít vào phát triển ý thức của con người, sự tinh vi của trí tuệ nhân tạo sẽ chỉ phục vụ cho việc làm mạnh thêm lên sự ngu xuẩn tự nhiên (natural stupidity) của con người. Chúng ta sẽ ít có khả năng bị tấn công bởi một cuộc nổi loạn của robot trong những thập kỷ tới, nhưng chúng ta sẽ phải đối mặt với những quân đoàn bots biết rõ cách thao túng cảm giác của chúng ta hơn cả mẹ chúng ta, và sử dụng khả năng huyền bí này để bán cho chúng ta cái gì đó – dù là một chiếc xe hơi, một chính khách, hay nguyên cả một hệ tư tưởng. Những con bots này có thể xác định nỗi sợ hãi, nỗi hận thù và những khao khát sâu kín nhất của chúng ta, và sử dụng những đòn bẩy nội tại (inner leverages) này để chống lại chúng ta. Chúng ta vốn đã được nếm thử điều này trong các cuộc bầu cử và trưng cầu dân ý gần đây, khi mà hackers đã tìm được cách thao túng cử tri bằng cách phân tích dữ liệu về họ và lợi dụng các thành kiến sẵn có của họ. Trong khi những câu chuyện khoa học viễn tưởng giật gân thường dựng lên các kịch bản tận thế đầy kịch tính, thì trong thực tế chúng ta rất có thể đang đối diện với một tận thế hết sức tầm thường bởi những cú click chuột.

Để tránh khỏi viễn cảnh đó, với mỗi đô-la và mỗi phút chúng ta đầu tư vào việc nâng cấp trí thông minh nhân tạo, sẽ là khôn ngoan nếu chúng ta bỏ ra một đô-la và một phút để phát triển ý thức con người. Thật đáng tiếc, hiện tại chúng ta đang không làm gì nhiều để nghiên cứu và phát triển ý thức. Chúng ta chủ yếu chỉ nghiên cứu và phát triển khả năng con người dựa theo nhu cầu ngay trước mắt của hệ thống kinh tế và chính trị, thay vì dựa vào nhu cầu dài hạn của chúng ta với tư cách là các thực thể sống có ý thức (conscious beings). Sếp tôi muốn tôi trả lời emails nhanh nhất có thể, nhưng ông ta chẳng mấy quan tâm đến khả năng nếm và trân trọng thức ăn của tôi. Vì vậy, tôi kiểm tra emails ngay cả trong các bữa ăn, trong khi mất dần khả năng lưu ý đến cảm giác của chính mình. Hệ thống kinh tế gây sức ép khiến tôi phải mở rộng và làm phong phú danh sách đầu tư của mình, nhưng không cho tôi chút khích lệ nào để mở rộng và làm phong phú khả năng thấu cảm của tôi. Vì thế tôi phấn đấu để hiểu những bí ẩn của việc mua bán cổ phiếu, trong khi bỏ ra ít nỗ lực hơn nhiều trong việc tìm hiểu những nguyên nhân sâu xa của khổ đau.

Ở khía cạnh này, con người giống với các loài động vật đã thuần hóa khác. Chúng ta tạo ra những giống bò ngoan ngoãn có khả năng cho lượng sữa khổng lồ, nhưng ngoài việc đó ra thì chúng thua kém xa tổ tiên hoang dã của chúng. Chúng kém nhanh nhẹn hơn, kém tò mò hơn và ít khả năng thích nghi hơn. Ở thời điểm hiện tại chúng ta đang tạo ra những con người thuần hóa (tame humans) có khả năng tạo ra một lượng lớn dữ liệu và vận hành như những con chíp hiệu quả trong một cỗ máy xử lý dữ liệu khổng lồ, nhưng những con bò-dữ liệu này chẳng màng gì tới việc tối ưu hóa tiềm năng của con người. Đúng là chúng ta chẳng biết tiềm năng của con người có thể đạt đến đâu, vì chúng ta còn biết quá ít về tâm trí của con người. Thế mà chúng ta lại chẳng đầu tư mấy vào việc khám phá tâm trí con người, thay vào đó lại tập trung vào việc tăng tốc đường truyền Internet và hiệu quả của các thuật toán Big Data. Nếu không cẩn thận, chúng ta sẽ đâm đầu vào việc tạo ra những con người thoái hóa (downgraded humans) lạm dụng những hệ thống máy tính tiến hóa (upgraded computers) để tàn phá chính họ và tàn phá thế giới.

Lời người dịch: Vì đoạn này Yuval dùng chữ “tame humans” quá đắt làm tôi nhớ đến một đoạn mà D.H. Lawrence cũng dùng chữ “tame” trong phần cuối của cuốn “Lady Chatterley’s Lover”, mà tôi chép lại dưới đây.

“But won’t it ever come to an end?” she said.

“Ay, it will. It’ll achieve its own salvation. When the last real man is killed, and they’re all tame: white, black, yellow, all colors of tame ones: then they’ll all be insane. Because the root of sanity is in the balls. Then they’ll all be insane, and they’ll make their grand auto da fé. You know auto da fé means act of faith? Ay, well, they’ll make their own grand little act of faith. They’ll offer one another up.”

“You mean kill one another?”

“I do, duckie! If we go on at our present rate then in a hundred years’ time there won’t be ten thousand people in this island: there may not be ten. They’ll have lovingly wiped each other out.” The thunder was rolling further away.

“How nice!” she said.”

We never know

“Khi hàng ngàn chiếc ô tô chen chúc nhau ngang qua London, chúng ta gọi đó là tắc nghẽn giao thông, nhưng điều đó không tạo ra một bầu nhận thức London khổng lồ nào đó (some great Londonian consciousness) bay là đà trên đại lộ Piccadilly và tự nhủ: “Khỉ thật, ta cảm thấy thật bế tắc!”. Khi hàng triệu người cùng bán ra hàng tỉ cổ phiếu, chúng ta gọi đó là một cuộc khủng hoảng kinh tế, nhưng không có một đại linh hồn Wall Street nào càu nhàu: “Cứt thật, ta cảm thấy thật khủng hoảng.” Khi hàng tỉ tỉ phân tử nước tụ lại với nhau trên bầu trời, chúng ta gọi đó là một đám mây, nhưng không có một ý thức tự thân nào của đám mây xuất hiện để tuyên bố: “Ta cảm thấy muốn mưa lắm rồi.” Thế thì làm sao mà, khi hàng tỉ tín hiệu điện tử di chuyển trong não tôi, một tâm trí lại xuất hiện và cảm thấy “Tao đang điên đây!”? Cho đến năm 2016, chúng ta hoàn toàn chưa biết gì về việc đó cả.”

Đoạn trích phía trên, dịch từ Homo Deus của Yuval Noah Harari, đặc biệt thú vị. Vì mặc dù đồng ý với hầu hết các dẫn chứng và rất mê cách dẫn dắt hấp dẫn của ông, ở ngay đoạn này mình lại đặt câu hỏi: ủa, tại sao không? Kết luận luôn là không có các linh hồn lớn bay vòng vòng trên đầu các thành phố, có cảm xúc vốn được tích tụ từ cảm xúc của toàn bộ sự sống bên dưới, và từ cảm xúc đó dẫn đến các sự kiện lớn tiếp theo, liệu có vội quá và chủ quan quá không?

Biết đâu, ngay tại thời điểm hiện tại, các linh hồn lớn vẫn đang bay vòng vòng phía trên đầu chúng ta. Biết đâu đa số họ đang mất dần kiên nhẫn.

“Khó thở quá!”

“Đau quá!”

“ĐCM tất cả những sự giả dối tạm bợ này thật đáng kinh tởm!”

“Tao muốn giết người lắm rồi!”

“Phải có chiến tranh thôi!”

Biết đâu từng linh hồn nhỏ của mỗi sinh linh trên mặt đất, không chỉ của con người mà của hàng tỉ loài sinh vật là nạn nhân của con người, đang gửi tín hiệu dồn dập 24/7 lên trời, khẩn cầu các linh hồn lớn, làm ơn phát lệnh kết thúc giùm chúng con?

Biết đâu là như thế?

Xem Arrival (1): Ngôn ngữ

“Ban đầu có Ngôi Lời, Ngôi Lời ở cùng Đức Chúa Trời, và Ngôi Lời là Đức Chúa Trời”. Sách Phúc Âm John đã mở đầu như thế. Ngôi Lời (“Word”, hay “Logos”) được các nhà thần học Thiên Chúa Giáo coi là điều bí ẩn thiêng liêng và là đồng nhất với đức Giê-su (1). Các triết gia Hy Lạp cổ đại coi Logos là nguyên lý nền tảng của logic, biện luận và tri thức (2). Thế còn các nhà sử học/nhân học thì sao?

70,000 năm trước, Homo sapiens không phải là loài người duy nhất trên trái đất. Cùng chia sẻ hành tinh này ở thời điểm đó còn có Homo Rudolfensis (Đông Phi), Homo erectus (Đông Á), và Homo neanderthalensis (Châu Âu và Tây Á). Nhưng Homo sapiens là loài duy nhất đã trải qua cuộc Cách mạng Nhận thức (the Cognitive Revolution).

“Đâu là nguyên nhân của cuộc cách mạng này? Không ai biết chắc cả. Lý thuyết phổ biến nhất cho rằng đây là một sự đột biến gen ngẫu nhiên đã tác động đến cấu trúc não bộ của Sapiens, khiến họ có thể tư duy theo cách chưa từng có và giao tiếp bằng một ngôn ngữ hoàn toàn mới. Chúng ta có thể gọi đây là đột biến Cây Tri Thức (Tree of Knowledge mutation). Tại sao nó lại xảy ra với DNA của loài Sapiens thay vì xảy ra với loài Neanderthals? Ở mức độ hiểu biết hiện tại của chúng ta, đây chỉ hoàn toàn là sự ngẫu nhiên (it was the matter of pure chance). Nhưng việc nhận thức hậu quả/kết quả của đột biến Cây Tri Thức còn quan trọng hơn cả việc hiểu được nguyên nhân của nó. Điều gì đã khiến cho ngôn ngữ mới của loài Sapiens đã giúp chúng ta thống trị thế giới?”

“Câu trả lời phổ biến nhất: vì ngôn ngữ của chúng ta hết sức linh hoạt. Chúng ta có thể nối một số hữu hạn các âm thanh và dấu hiệu để tạo ra một lượng vô hạn các câu, mỗi câu mang một ý nghĩa khác nhau. Chúng ta nhờ đó có thể thẩm thấu, lưu trữ và trao đổi một lượng thông tin lớn phi thường về thế giới chung quanh. Một con khỉ có thể hét lên với đồng đội của nó: “Cẩn thận! Sư tử!”, nhưng một con người có thể nói với bạn của cô là sáng hôm nay, gần bờ sông, cô nhìn thấy một con sư tử đang lần theo dấu vết của lũ bò rừng. Từ đó cô có thể miêu tả chính xác địa điểm, bao gồm nhiều đường hướng có thể dẫn đến khu vực đó. Với thông tin đó, các thành viên trong nhóm của cô có thể cùng nhau thảo luận xem liệu họ có nên đến bờ sông, đuổi con sư tử đi và cùng săn bò rừng.”

“Lý thuyết thứ hai đồng ý rằng ngôn ngữ đặc thù của chúng ta phát triển như một phương cách để chia sẻ thông tin về thế giới bên ngoài, nhưng thông tin quan trọng nhất cần chia sẻ không phải là về sư tử hay bò rừng, mà là về con người. Ngôn ngữ của chúng ta tiến hoá như một cách tán gẫu/tám chuyện. Theo lý thuyết này thì Homo sapiens chủ yếu là một loài động vật xã hội (social animal). Hợp tác xã hội là chìa khoá của việc sinh tồn và duy trì nòi giống của chúng ta. Hoàn toàn là không đủ cho các cá thể đàn ông hay phụ nữ nếu họ chỉ biết vị trí của sư tử hay bò rừng. Quan trọng hơn rất nhiều là việc họ biết được ai đang ghét ai, ai đang ngủ với ai, ai đang trung thực và ai là kẻ bịp bợm.”

“Nhưng điều thực sự đặc sắc trong ngôn ngữ của chúng ta không phải là khả năng truyền tải thông tin về người hay sư tử. Mà thực ra, đó là khả năng có thể truyền đạt thông tin về những điều không hề tồn tại. Ở chừng mực hiểu biết của chúng ta, chỉ duy nhất Sapiens là loài có khả năng nói về những thực thể mà chúng chưa từng thấy, chưa từng chạm hay ngửi.”

“Huyền thoại, truyền thuyết, các vị chúa trời hay tôn giáo chỉ bắt đầu xuất hiện từ khi có cuộc Cách mạng Nhận thức. Rất nhiều các loài động vật và người khác có khả năng nói: “Cẩn thận! Sư tử đấy!”, nhưng Homo sapiens là loài duy nhất có khả năng nói, “Sư tử là linh hồn bảo vệ của bộ lạc chúng ta.” Khả năng nói về những điều hư cấu là điểm đặc biệt nhất của ngôn ngữ loài người.”

Khả năng nói về những điều hư cấu là điểm đặc biệt nhất của ngôn ngữ loài người.

“Khá dễ dàng để đồng ý rằng chỉ duy nhất Homo sapiens có thể nói về những điều không tồn tại, và tin vào sáu điều bất khả trước bữa ăn sáng. Bạn không bao giờ có thể thuyết phục một con khỉ đưa cho bạn một trái chuối bằng việc hứa với nó về vô số chuối đang đợi nó trên thiên đàng của khỉ. Nhưng tại sao nó lại quan trọng? Hư cấu có thể tạo phiền nhiễu và gây mê lầm. Đám người xông vào rừng để tìm các tiên nữ hay kỳ lân sẽ có ít cơ hội sống sót hơn đám người đi hái nấm và săn hươu. Và nếu bạn bỏ ra nhiều giờ liền để cầu khấn một linh hồn bảo vệ không-tồn-tại nào đó, chẳng phải là bạn đang lãng phí thời gian quý giá, thời gian mà đáng lẽ nên được dùng vào việc đi săn bắn, chiến đấu và làm tình hay sao?”

Hư cấu không chỉ giúp chúng ta tưởng tượng ra các thứ, mà giúp chúng ta làm thế cùng nhau.

“Nhưng hư cấu không chỉ giúp chúng ta tưởng tượng ra các thứ, mà giúp chúng ta làm thế cùng nhau. Chúng ta có thể thêu dệt nên các huyền thoại chung như Sáng Thế Ký trong kinh thánh, hay truyền thuyết Thời gian trong Mộng của thổ dân Úc, hay chuyện hoang đường về các quốc gia hiện đại. Những huyền thoại như thế đã cho Sapiens một khả năng vô tiền khoáng hậu trong việc hợp tác một cách linh hoạt với số lượng khổng lồ. Kiến và ong cũng có thể làm việc cùng nhau với số lượng lớn, nhưng chúng chỉ làm như thế bằng một số cách thức rất nghiêm ngặt và chỉ với một vài họ hàng gần gũi. Sói và tinh tinh có thể hợp tác linh hoạt hơn kiến, nhưng chúng chỉ có thể làm thế với một số ít cá thể mà chúng thân thuộc. Sapiens có thể hợp tác với nhau siêu linh hoạt theo vô số cách với vô số cá thể xa lạ. Đó là lý do Sapiens thống trị thế giới, trong khi kiến ăn thức ăn thừa của chúng ta và tinh tinh thì ngồi trong sở thú hoặc trong các phòng thí nghiệm.” (3)

Quay lại phim Arrival, giờ thì chúng ta đã hiểu tại sao người Heptapods nói rằng con người có ngôn ngữ như là vũ khí/công cụ/phương tiện/sức mạnh. Bởi vì cùng một lúc, đó là tất cả các vai trò của ngôn ngữ. Ngôn ngữ kiến tạo và ngôn ngữ phá huỷ. Ngôn ngữ chia cắt và ngôn ngữ nối kết. Khi đổi ngôn ngữ, chúng ta đổi cách tư duy, đổi cách nhận thức. Toàn bộ thế giới – theo nghĩa rộng nhất của từ “thế giới” – thay đổi. Thế nên ta hãy cẩn trọng hơn, và trân trọng hơn, ngôn ngữ mà ta dùng.

Nếu đi xa hơn ngôn ngữ, chúng ta gặp Vô Ngôn của Phật giáo, gặp cái điên của Bùi Giáng, gặp những khoảng lặng im giữa các nốt nhạc. Đi xa hơn ngôn ngữ, chúng ta phải nhìn, nghe, chạm, ngửi, nếm bằng trái tim, để ôm ấp “những điều cốt lõi” (“the essential things” – Hoàng Tử Bé).

Cho đến lúc đó, hãy cùng nói về thời gian.

———
(1) https://www.wikiwand.com/en/Logos_(Christianity)
(2) https://www.wikiwand.com/en/Logos
(3) Trích dịch Chương 2, Phần 1, “Sapiens: A brief history of humankind”, Yuval Noah Harari. http://erenow.com/common/sapiensbriefhistory/7.html