Magic, một start-up AI tạo ra các mô hình để sinh mã và tự động hóa một loạt các nhiệm vụ phát triển phần mềm, đã gọi vốn lớn từ các nhà đầu tư, bao gồm cựu giám đốc điều hành Google Eric Schmidt.
Trong một bài đăng trên blog vào thứ Năm, Magic cho biết họ đã hoàn thành vòng gọi vốn 320 triệu đô la với sự đóng góp từ Schmidt, cũng như Alphabet's CapitalG, Atlassian, Elad Gil, Jane Street, Nat Friedman và Daniel Gross, Sequoia và những người khác. Khoản vốn mang về cho công ty tổng cộng là gần nửa tỷ đô la (465 triệu đô la), đưa nó vào một nhóm các start-up mã lập trình AI được tài trợ tốt hơn như Codeium, Cognition, Poolside, Anysphere và Augment. (Thú vị là, Schmidt cũng ủng hộ Augment.)
Trong tháng 7, Reuters đưa tin Magic đang tìm cách gọi vốn hơn 200 triệu đô la với giá trị ước lượng 1,5 tỷ đô la. Rõ ràng, vòng gọi vốn đã vượt trội so với mong đợi, mặc dù giá trị hiện tại của start-up không thể xác định được; Magic đã được định giá 500 triệu đô la vào tháng 2.
Trong ngày thứ Năm, Magic cũng công bố một đối tác với Google Cloud để xây dựng hai “máy tính siêu” trên Nền tảng Google Cloud. Magic-G4 sẽ bao gồm các GPU Nvidia H100, và Magic G5 sẽ sử dụng vi chips Blackwell thế hệ tiếp theo của Nvidia được lên lịch để ra mắt vào năm sau. (GPU, nhờ khả năng chạy nhiều tính toán song song, thường được sử dụng để huấn luyện và phục vụ các mô hình AI sinh mã.)
Magic cho biết họ đặt mục tiêu mở rộng cụm máy tính siêu này lên “tens of thousands” GPU trong thời gian, và cùng nhau, các cụm này sẽ có thể đạt được 160 exaflops, nơi một exaflop bằng một tỉ phép toán máy tính mỗi giây.
“Chúng tôi rất hào hứng được hợp tác với Google và Nvidia để xây dựng máy tính AI siêu thế hệ tiếp theo của chúng tôi trên Google Cloud,” Eric Steinberger, cộng sáng lập và Giám đốc điều hành Magic, nói trong một tuyên bố. “Hệ thống Nvidia [Blackwell] sẽ cải thiện hiệu suất suy luận và huấn luyện cho các mô hình của chúng tôi, và Google Cloud cung cấp cho chúng tôi kế hoạch mở rộng nhanh nhất và một hệ sinh thái phong phú của dịch vụ đám mây.”
Steinberger và Sebastian De Ro sáng lập Magic vào năm 2022. Trong một cuộc phỏng vấn trước đó, Steinberger nói với TechCrunch rằng anh đã được truyền cảm hứng từ khả năng của AI từ khi còn trẻ; ở trường cấp ba, anh và bạn bè của anh đã kết nối các máy tính của trường để huấn luyện thuật toán học máy.
Kinh nghiệm đó đã gieo hạt cho chương trình cử nhân khoa học máy tính của Steinberger tại Cambridge (anh rời bỏ sau một năm) và sau này, công việc của anh ở Meta như một nghiên cứu viên AI. De Ro đến từ công ty quản lý quy trình kinh doanh FireStart của Đức, nơi anh đã làm việc cho đến khi trở thành CTO. Steinberger và De Ro gặp nhau tại tổ chức tình nguyện môi trường mà Steinberger đã sáng lập, ClimateScience.org.
Magic phát triển các công cụ được định hướng bởi AI (chưa bán) nhằm giúp các kỹ sư phần mềm viết, xem xét, sửa lỗi và lập kế hoạch thay đổi mã. Các công cụ hoạt động giống như một chương trình viên tự động, cố gắng hiểu và liên tục học hỏi thêm về bối cảnh của các dự án mã hóa khác nhau.
Nhiều nền tảng cũng làm điều tương tự, bao gồm người khổng lồ trong phòng, GitHub Copilot. Nhưng một trong những đổi mới của Magic nằm trong cửa sổ bối cảnh siêu dài của các mô hình của họ. Họ gọi kiến trúc của các mô hình là “Mạng Bộ nhớ Dài hạn,” hay “LTM” cho ngắn.
Bối cảnh của mô hình, hoặc cửa sổ bối cảnh, đề cập đến dữ liệu đầu vào (ví dụ mã) mà mô hình xem xét trước khi sinh ra đầu ra (ví dụ mã bổ sung). Một câu hỏi đơn giản - “Ai đã chiến thắng cuộc bầu cử tổng thống Mỹ năm 2020?” - có thể được dùng như bối cảnh, cũng như kịch bản phim, chương trình hoặc đoạn audio.
Theo dõi cửa sổ bối cảnh phát triển, cũng như kích thước tài liệu - hay mã nguồn, trong trường hợp này - được phù hợp vào chúng. Bối cảnh dài có thể ngăn mô hình “quên” nội dung của các tài liệu và dữ liệu gần đây, và không lạc đề và mổ xéo sai.
Magic tuyên bố mô hình mới nhất của họ, LTM-2-mini, có một cửa sổ bối cảnh 100 triệu token. (Token là các phân đoạn nhỏ của dữ liệu thô, như các âm tiết “fan,” “tas” và “tic” trong từ “fantastic.”) Một trăm triệu token tương đương khoảng 10 triệu dòng mã hoặc 750 tiểu thuyết. Và đây là cửa sổ bối cảnh lớn nhất của bất kỳ mô hình thương mại nào; những cái lớn thứ hai là mô hình mẫu Gemini của Google với 2 triệu token.
Magic nói rằng nhờ vào bối cảnh dài của mình, LTM-2-mini đã có thể triển khai một bộ đo mức độ mạnh mẽ cho một dự án mã nguồn mở và tạo ra một máy tính mói bằng cách sử dụng một framework UI tùy chỉnh gần như tự động.
Công ty hiện đang tiến hành huấn luyện một phiên bản lớn hơn của mô hình đó.
Magic có một đội nhóm nhỏ - khoảng hai chục người - và không có doanh thu để nói lên. Nhưng họ muốn tập trung vào một thị trường có thể đạt 27,17 tỷ đô la vào năm 2032, theo ước lượng của Polaris Research, và các nhà đầu tư coi đó là một nỗ lực đáng giá (và có thể khá sinh lời).
Mặc dù có những bất an về an ninh, bản quyền và độ tin cậy xung quanh các công cụ hỗ trợ mã lập trình AI, các nhà phát triển đã thể hiện sự hào hứng đối với chúng, với hầu hết các người tham gia trong cuộc khảo sát mới nhất của GitHub cho biết rằng họ đã áp dụng các công cụ AI theo một cách nào đó. Microsoft báo cáo vào tháng 4 rằng Copilot đã có hơn 1,3 triệu người dùng trả phí và hơn 50.000 khách hàng doanh nghiệp.
Và khát vọng của Magic không chỉ dừng lại ở việc tự động hóa các nhiệm vụ phát triển phần mềm thường mục. Trên trang web của công ty, họ nói về một con đường dẫn đến AGI - AI có khả năng giải quyết vấn đề một cách đáng tin cậy hơn con người có thể một mình.
Hướng tới AI như vậy, Magic đặt tại San Francisco gần đây đã thuê Ben Chess, một cựu trưởng nhóm siêu máy tính tại OpenAI, và có kế hoạch mở rộng đội ngũ an ninh mạng, kỹ sư, nghiên cứu và hệ thống của mình.
