Có lẽ bạn đã quen với việc nghĩ về trí tuệ nhân tạo như một chatbot viết thơ cho bạn hoặc tóm tắt email, nhưng có một xu hướng mới hoàn toàn bỏ qua ngôn từ. TypeSafe AI đã cho ra mắt Jev , một công cụ phá vỡ khuôn mẫu bởi vì nó không viết một câu nào; nhiệm vụ của nó là đưa ra các quyết định kỹ thuật và xác suất mà bất kỳ chương trình máy tính nào cũng có thể xử lý ngay lập tức mà không gặp bất kỳ rắc rối nào.
Hãy tưởng tượng bạn có một hệ thống xử lý hàng nghìn yêu cầu, và bạn không cần AI giải thích lý do tại sao một yêu cầu lại khẩn cấp; bạn chỉ cần nó trả lời "khẩn cấp: có". Jev định vị chính xác ở đó, trong khoảng trống giữa mã lập trình cứng nhắc và các mô hình ngôn ngữ chậm chạp, cung cấp những gì họ gọi là mô hình Hệ thống Một , lấy cảm hứng từ tâm lý học tư duy nhanh chóng và trực quan của Daniel Kahneman.
Jev AI thực chất là gì?
Không giống như những hệ thống khổng lồ như GPT hay Claude, vốn giải phóng từng token một để xây dựng đoạn văn, Jev hoạt động như một lời gọi hàm thông minh . Bạn truyền vào đó một trạng thái (có thể là JSON, văn bản hoặc danh sách) và một tập hợp các câu hỏi được xác định trước, và mô hình sẽ trả về các giá trị có cấu trúc. Điều này có nghĩa là không có lỗi kiểu dữ liệu hoặc vấn đề định dạng, vì phản hồi được liên kết với các tùy chọn bạn đã chọn trước đó.
Kiến trúc đằng sau mô hình này sử dụng một phương pháp huấn luyện cụ thể gọi là Học tăng cường cho các quyết định được hiệu chỉnh (Reinforcement Learning for Calibrated Decisions - RLCD) . Mục tiêu ở đây không phải là để AI trở nên dễ mến hay thuyết phục, mà là để các xác suất của nó trung thực và được hiệu chỉnh. Nếu Jev nói rằng anh ấy tự tin 90% vào một câu trả lời, con số đó phải phản ánh độ chính xác thực tế — điều cực kỳ quan trọng khi bạn muốn phần mềm hoạt động tự động mà không cần con người xem xét từng bước.
Ba công cụ cơ bản: các yếu tố cơ bản
Để đơn giản và hiệu quả, API của Jev dựa trên ba loại câu hỏi cho phép nó đáp ứng hầu hết mọi nhu cầu phân loại:
- Sự lựa chọn: Nó cho phép bạn chọn một phương án từ một nhóm tối đa 255 khả năng. Nó không chỉ cung cấp cho bạn phương án chiến thắng, mà còn cả bản đồ xác suất của tất cả các phương án và điểm tin cậy. Nó bao gồm một tùy chọn "khác" để ngăn mô hình đưa ra câu trả lời sai.
- Điểm: Đánh giá một thứ gì đó trên thang điểm tăng dần (từ 2 đến 10 cấp độ). Điều thú vị là nó trả về các giá trị thập phân (như 1.4), cho phép bạn nắm bắt... sự khác biệt tinh tế giữa các loại mà một số nguyên sẽ bỏ qua.
- Noul (Đánh giá Boolean): Đây là phiên bản đơn giản hóa của câu hỏi có hoặc không, trả về xác suất nằm giữa 0 và 1.
Tính năng mạnh mẽ nhất là Jev có thể trả lời tất cả những câu hỏi này chỉ trong một bước duy nhất, song song . Nếu bạn cần biết loại tin nhắn, mức độ tức giận của khách hàng và liệu họ có yêu cầu hoàn tiền hay không, Jev sẽ cung cấp cho bạn cả ba câu trả lời cùng một lúc, vì vậy việc thêm nhiều câu hỏi hầu như không ảnh hưởng đến thời gian phản hồi.
Hiệu năng, chi phí và các điều khoản chi tiết
Xét về số liệu, TypeSafe AI tự hào có tốc độ đáng kinh ngạc, với độ trễ chỉ từ 70 đến 500 mili giây . So với các hệ thống LLM tiên tiến, có thể mất vài giây để soạn thảo một phản hồi, Jev nhanh hơn một cách đáng kinh ngạc. Hơn nữa, giá cả là một lợi thế quan trọng: nó chỉ tốn 0,042 đô la cho mỗi triệu token đầu vào , và đầu ra hoàn toàn miễn phí, vì chúng không tạo ra văn bản mới.
Tuy nhiên, những số liệu này cần được xem xét một cách thận trọng. Nhiều bài kiểm tra hiệu năng được thực hiện bởi chính nhóm TypeSafe, điều này có thể dẫn đến một số sai lệch. Tuy nhiên, lời hứa về việc không có lỗi lược đồ nào là hoàn toàn khả thi: về mặt toán học, Jev không thể trả về một định dạng mà bạn chưa định nghĩa, loại bỏ nhu cầu về các kiểm tra hợp lệ phức tạp trong mã.
Jev AI có những điểm mạnh và điểm yếu ở đâu?
Jev là lựa chọn tối ưu khi bạn cần đưa ra những quyết định lớn, lặp đi lặp lại trên dữ liệu phi cấu trúc. Nó lý tưởng cho việc định tuyến khách hàng tiềm năng , kiểm duyệt nội dung, phân loại hỗ trợ kỹ thuật, hoặc thậm chí tạo ra các rào cản để giám sát đầu ra của các mô hình AI lớn hơn khác. Nó cũng rất hữu ích trong điều hướng web, nơi nó có thể quyết định nhấp vào phần tử nào trên trang mà không cần mô tả màn hình.
Tuy nhiên, đừng cố gắng sử dụng nó cho mọi thứ. Jev không phù hợp để trò chuyện, lập trình hoặc giải thích lý lẽ của nó. Nó có những hạn chế rõ ràng về toán học và đếm ký tự, và nó không xử lý tốt ngày tháng hoặc giá trị thập lục phân. Hơn nữa, nó thiếu kiến thức về thế giới; nó chỉ biết những gì bạn nhập vào trạng thái truy vấn. Nếu bạn cần suy luận phức tạp hoặc tạo nội dung sáng tạo, bạn nên sử dụng mô hình Hệ thống 2 như Claude hoặc GPT.
Tích hợp vào hệ sinh thái phát triển
Đối với lập trình viên, việc tích hợp khá đơn giản. Các SDK chính thức đã có sẵn cho JavaScript, TypeScript và Python , và mặc dù không có SDK cho PHP, nhưng chỉ cần một yêu cầu POST đơn giản là đủ. Hơn nữa, Jev đã có sẵn trong AI Gateway của Vercel, điều này giúp đơn giản hóa đáng kể việc quản lý khóa và thanh toán nếu bạn đã sử dụng môi trường đó.
Một mô hình rất thông minh để sử dụng Jev là tạo ra một chuỗi quyết định . Đầu tiên, Jev lọc và phân loại yêu cầu một cách nhanh chóng và tiết kiệm chi phí; sau đó, mã xác định sẽ xử lý các trường hợp đơn giản hơn, và chỉ trong trường hợp Jev chỉ ra độ tin cậy thấp thì yêu cầu mới được chuyển đến mô hình suy luận tốn kém hơn hoặc người vận hành. Điều này tối ưu hóa ngân sách và giảm độ trễ tổng thể của hệ thống.
Công cụ này định nghĩa lại mối quan hệ giữa trí tuệ nhân tạo (AI) và phần mềm bằng cách biến trí tuệ thành một thành phần cơ sở hạ tầng chứ không phải là một bên đối thoại. Bằng cách loại bỏ việc tạo văn bản và tập trung vào hiệu chỉnh xác suất, Jev cho phép máy móc đưa ra các quyết định nhanh chóng và đáng tin cậy với chi phí không đáng kể, mở ra cánh cửa cho các quy trình tự động hóa mà trước đây quá tốn kém hoặc chậm chạp.