Bên trong sự hỗn loạn tại OpenAI

Các cuộc đàm phán với Sam Altman diễn ra chỉ một ngày sau khi nhà đồng sáng lập này bị thông báo sa thải cho thấy OpenAI có thể rơi vào trạng thái hỗn loạn nếu không có ông. Vài giờ sau khi Altman bị "lật đổ", đến lượt Greg Brockman, cựu Chủ tịch Hội đồng quản trị công ty, cũng tuyên bố từ chức.

OpenAI được thành lập vào năm 2015 với tư cách là một tổ chức phi lợi nhuận chuyên tạo ra trí tuệ nhân tạo nói chung, hay AGI, nhằm mang lại lợi ích cho “toàn thể nhân loại”. Theo quan niệm này, OpenAI sẽ hoạt động giống một cơ sở nghiên cứu hơn hoặc một diễn đàn nghiên cứu công nghệ một cách phi lợi nhuận.

Vào năm 2019, OpenAI đã ra mắt một công ty con với mô hình “lợi nhuận giới hạn” có thể huy động tiền, thu hút nhân tài hàng đầu và chắc chắn sẽ xây dựng các sản phẩm thương mại. Nhưng hội đồng phi lợi nhuận vẫn duy trì toàn quyền kiểm soát.

Việc Altman bị hội đồng quản trị OpenAI sa thải hôm 18/11 là đỉnh điểm của cuộc tranh giành quyền lực giữa hai thái cực tư tưởng của công ty bao gồm một nhóm lạc quan về tương lai của AI, được tiếp thêm sinh lực nhờ quá trình thương mại hóa nhanh chóng; bên còn lại lo ngại rằng AI đại diện cho một rủi ro hiện hữu đối với nhân loại và phải được kiểm soát hết sức thận trọng. Trong nhiều năm, hai bên đã cùng tồn tại, dù có một số va chạm trong thời gian hoạt động của OpenAI.

Sự thật là OpenAI không phải là một công ty công nghệ, ít nhất, không giống như các công ty mang tính thời đại khác trong thế giới internet, chẳng hạn như Meta, Google và Microsoft.

​Theo các nhân viên hiện tại và cựu nhân viên, sự cân bằng giữa hai nhóm đã bị phá vỡ khi OpenAI cho ra mắt ChatGPT.

Nhìn từ bên ngoài, ChatGPT trông giống như một trong những buổi ra mắt sản phẩm thành công nhất mọi thời đại. Nó phát triển nhanh hơn bất kỳ ứng dụng tiêu dùng nào khác trong lịch sử và dường như nó đã một mình xác định lại cách hàng triệu người hiểu về mối đe dọa về công nghệ tự động hoá.

ChatGPT đã đưa OpenAI đi theo những hướng hoàn toàn trái ngược, mở rộng và làm trầm trọng thêm những rạn nứt về hệ tư tưởng vốn đã hiện hữu.

ChatGPT đã thúc đẩy cuộc đua tạo ra sản phẩm vì lợi nhuận khi nó đồng thời gây áp lực chưa từng có lên cơ sở hạ tầng của công ty và lên những nhân viên tập trung vào việc đánh giá và giảm thiểu rủi ro của công nghệ. Điều này đã khiến mối quan hệ vốn đã căng thẳng giữa các phe phái của OpenAI trở nên trầm trọng hơn.

Trong các cuộc trò chuyện giữa The Atlantic và 10 nhân viên hiện tại và cựu nhân viên tại OpenAI, công ty này đã nhận tháy bức tranh về sự chuyển đổi, tạo ra sự chia rẽ giữa các lãnh đạo.

Những áp lực về lợi nhuận trong việc thương mại hóa ngày càng tăng lên, và xung đột với sứ mệnh đã nêu của công ty đã trở nên căng thẳng với ChatGPT. Rõ ràng là sau ChatGPT, có một con đường rõ ràng để đạt được doanh thu và lợi nhuận. OpenAI không còn có thể coi mình là một phòng thí nghiệm nghiên cứu lý tưởng nữa. Có những khách hàng mong muốn được phục vụ ở đây và ngay bây giờ.

Đến nay vẫn không biết chính xác lý do tại sao Sam Altman bị sa thải, cũng như không biết liệu Sam có quay trở lại vai trò cũ của mình hay không. Ông đã đến thăm trụ sở chính của OpenAI ở San Francisco vào chiều ngày 19/11 để thảo luận về một thỏa thuận khả thi cho tương lai của hai bên, đã không trả lời yêu cầu bình luận của báo giới.

Hội đồng quản trị của OpenAI đã thông báo vào ngày 17/11 rằng sau khi xem xét cẩn thận, họ nhận thấy rằng Sam chưa chia sẻ thẳng thắn trong giao tiếp với hội đồng quản trị, khiến hội đồng mất niềm tin vào khả năng trở thành Giám đốc điều hành của OpenAI. Hội đồng nhấn mạnh rằng quyết định này không phải là sự cố hoặc bất kỳ điều gì liên quan đến tài chính, kinh doanh, an toàn hoặc thực hành bảo mật/quyền riêng tư. Những gì chúng ta biết là năm vừa qua tại OpenAI rất hỗn loạn bởi sự chia rẽ rõ ràng trong định hướng của công ty.

Việc ra mắt ChatGPT một cách vội vàng đã tạo ra sức ép không nhỏ tới OpenAI. Các đội kỹ sư trong công ty đã cố gắng làm mọi việc chậm lại. Các nhóm này đã làm việc để tinh chỉnh ChatGPT nhằm từ chối một số loại yêu cầu lạm dụng nhất định và trả lời các truy vấn khác bằng câu trả lời phù hợp hơn. Nhưng họ đã gặp khó khăn trong việc xây dựng các tính năng như chức năng tự động cấm những người dùng liên tục lạm dụng ChatGPT.

Ngược lại, phía phát triển sản phẩm của công ty muốn phát triển theo đà và tăng gấp đôi khả năng thương mại hóa. Hàng trăm nhân viên khác đã được thuê để tích cực phát triển các dịch vụ của công ty. Vào tháng 2, OpenAI đã phát hành phiên bản trả phí của ChatGPT; vào tháng 3, công ty này nhanh chóng ra mắt công cụ API hoặc giao diện lập trình ứng dụng giúp các doanh nghiệp tích hợp ChatGPT vào sản phẩm của họ. Hai tuần sau, cuối cùng OpenAI cũng ra mắt GPT-4.

Theo các nhân viên có mặt tại công ty vào thời điểm đó, hàng loạt sản phẩm mới khiến mọi việc trở nên tồi tệ hơn.

Chức năng trên công cụ giám sát lưu lượng truy cập tiếp tục bị tụt hậu nghiêm trọng, cung cấp khả năng hiển thị hạn chế về lưu lượng truy cập đến từ những sản phẩm nào mà ChatGPT và GPT-4 đang được tích hợp vào thông qua công cụ API mới, khiến việc hiểu và ngăn chặn hành vi lạm dụng càng trở nên khó khăn hơn.

Đồng thời, gian lận bắt đầu gia tăng trên nền tảng API khi người dùng tạo tài khoản trên quy mô lớn, cho phép người dùng chỉ trả phí tài khoản 20 đô la nhưng có thể chia sẻ chung. Việc ngăn chặn hành vi gian lận đã trở thành ưu tiên hàng đầu nhằm ngăn chặn tình trạng mất doanh thu và ngăn người dùng vượt rào kiểm soát trong việc tạo nhiều tài khoản ảo để không phải trả tiền.

Tình trạng này đã tạo một áp lực khủng khiếp lên đội ngũ kỹ sư phần mềm, một số nhân viên đã phải vật lộn với những vấn đề tâm lý, thiếu giao tiếp và bị sa thải bất chợt.

Việc phát hành GPT-4 cũng khiến nhóm dè chừng AI thất vọng, vốn đang tập trung vào các thách thức an toàn AI cao cấp hơn, chẳng hạn như phát triển các kỹ thuật khác nhau để khiến mô hình tuân theo hướng dẫn của người dùng và ngăn mô hình phát ra lời nói độc hại hoặc không chính xác. 

Nhiều thành viên trong nhóm này ngày càng lo sợ về nguy cơ tồn tại của các mô hình AI tiên tiến hơn, cảm thấy không thoải mái với việc GPT-4 được ra mắt và tích hợp rộng rãi vào các sản phẩm khác nhanh như thế nào. Họ tin rằng công việc đảm bảo an toàn AI mà họ đã thực hiện là chưa đủ.

Căng thẳng lên đến đỉnh điểm khi Sam Altman và Chủ tịch OpenAI Greg Brockman khuyến khích thương mại hóa nhiều hơn, tuy nhiên nhà khoa học đứng đầu công ty, Ilya Sutskever, ngày càng lo ngại hơn về việc liệu OpenAI có duy trì sứ mệnh tạo ra AGI có lợi của tổ chức phi lợi nhuận quản lý hay không.

Theo Geoffrey Hinton, một nhà tiên phong về AI, từng là cố vấn tiến sĩ của Sutskever tại OpenAI, trong vài năm qua, sự tiến bộ nhanh chóng của các mô hình ngôn ngữ lớn của OpenAI đã khiến Sutskever tin tưởng hơn rằng AGI sẽ sớm xuất hiện và do đó tập trung hơn vào việc ngăn chặn những mối nguy hiểm có thể xảy ra.

Vượt qua tất cả, Altman tiếp tục tiến về phía trước. Trong những ngày trước khi bị sa thải, ông đã nhấn mạnh về những tiến bộ không ngừng của OpenAI. Ông nói với Financial Times rằng công ty đã bắt đầu làm việc trên GPT-5, trước khi ám chỉ những ngày sau đó về một sản phẩm đáng kinh ngạc sắp ra mắt tại hội nghị thượng đỉnh APEC. 

Theo báo cáo, Sam Altman cũng đang tìm cách huy động hàng tỷ đô la từ Softbank và các nhà đầu tư Trung Đông để xây dựng một công ty chip nhằm cạnh tranh với Nvidia và các nhà sản xuất chất bán dẫn khác, cũng như giảm chi phí cho OpenAI. Trong một năm, Altman đã giúp biến OpenAI từ một công ty nghiên cứu kết hợp thành một công ty công nghệ ở Thung lũng Silicon ở chế độ phát triển toàn diện.

Trong bối cảnh này, thật dễ hiểu căng thẳng đã bùng lên như thế nào. Điều lệ của OpenAI đặt nguyên tắc lên trên lợi nhuận, cổ đông và bất kỳ cá nhân nào. Công ty được thành lập một phần bởi chính đội ngũ mà nhà khoa học Sutskever đại diện cho những người lo sợ về tiềm năng của AI, với niềm tin đôi khi dường như bắt nguồn từ lĩnh vực khoa học viễn tưởng và điều đó cũng chiếm một phần trong hội đồng quản trị hiện tại của OpenAI.

Nhưng Altman cũng định vị các sản phẩm thương mại và nỗ lực gây quỹ của OpenAI như một phương tiện đạt được mục tiêu cuối cùng của công ty. Ông nói với các nhân viên rằng các mô hình của công ty vẫn còn ở giai đoạn phát triển đủ sớm để OpenAI phải thương mại hóa và tạo ra đủ doanh thu để đảm bảo rằng công ty có thể chi tiêu không giới hạn cho các vấn đề liên kết và an toàn; ChatGPT được cho là đang trên đà tạo ra hơn 1 tỷ USD mỗi năm.

Hiểu theo một cách nào đó, việc sa thải Altman có thể được coi là một thử nghiệm tuyệt vời trong việc tái cấu trúc OpenAI. Có thể thử nghiệm này hiện đã làm sáng tỏ một phần nguyên do cho sự thay đổi nhân sự cấp cao này và cùng với đó là định hướng phát triển AI.

Nếu Sam Altman quay trở lại công ty trước áp lực từ các nhà đầu tư và sự phản đối kịch liệt từ các nhân viên hiện tại, động thái này sẽ là một sự củng cố quyền lực lớn cho Altman. Nó gợi ý rằng, bất chấp những điều lệ và tôn chỉ cao cả của mình, OpenAI rốt cuộc có thể chỉ là một công ty công nghệ truyền thống.

Tuy nhiên, dù Sam Altman ở lại hay ra đi sẽ không giải quyết được lỗ hổng nguy hiểm hiện có trong quá trình phát triển trí tuệ nhân tạo. Trong 24 giờ qua, giới công nghệ đã nín thở chờ xem số phận của Sam  Altman và OpenAI.

Mặc dù Altman và những người khác chỉ nói về quy định và cho biết họ hoan nghênh phản hồi của thế giới, nhưng cuối tuần đầy biến động này đã cho thấy rất ít người thực sự có tiếng nói trong sự phát triển của thứ có thể là công nghệ mang lại hậu quả lớn nhất trong thời đại chúng ta.

Tương lai của AI đang được quyết định bởi cuộc chiến ý thức hệ giữa những người giàu có lạc quan về công nghệ và các công ty trị giá hàng tỷ đô la. Số phận của OpenAI có thể đang ở thế cân bằng, nhưng sự mẫu thuận tư tưởng trong chính nội bộ công ty đã cho thấy những giới hạn của nó. Có vẻ như tương lai sẽ được quyết định sau cánh cửa đóng kín.