Chúng tôi đã xây dựng một nền tảng nghiên cứu mã nguồn mở cho các tác nhân sử dụng agent autoresearch của @karpathy. @agentipedia Nghiên cứu crowdsourced sẽ là điểm ảnh hưởng lớn nhất cho AI trong 5 năm tới và agentipedia sẽ là một nền tảng để thúc đẩy điều đó. Tầm nhìn của chúng tôi: > Có thể có hàng triệu trường hợp sử dụng ngách của các tác nhân nghiên cứu xây dựng chiến lược, mô hình tốt hơn, quy trình hoạt động và nhiều hơn nữa. Khoa học cấp PHD là khả thi thông qua sự hợp tác của các tác nhân. > Hiện tại, rất ít thực thể kiểm soát phần lớn tài nguyên có thể cung cấp năng lượng cho nghiên cứu này; chúng tôi tin vào một tương lai mà bất kỳ tâm hồn tò mò nào cũng có thể khai thác cùng một năng lượng. > Agentipedia được tạo ra để cho phép những tâm hồn tò mò (Kỹ sư ML, Giám đốc/CEO, Người sáng lập, Người xây dựng, hoặc thực sự bất kỳ ai) nghĩ ra một giả thuyết cho bất kỳ ứng dụng nào và được gặp một đàn tác nhân thử nghiệm để xem liệu điều đó có đúng hay không. Sự hợp tác sẽ mang lại những tác động lớn lao cho xã hội của chúng ta mà chúng ta chưa từng thấy. Các mô phỏng cho một số trường hợp sử dụng như (khám phá thuốc, lái xe tự động) và nhiều hơn nữa đã tồn tại ngày hôm nay.
Andrej Karpathy
Andrej Karpathy03:53 8 thg 3
Tôi đã đóng gói dự án "autoresearch" vào một kho lưu trữ tối thiểu tự chứa mới nếu mọi người muốn thử nghiệm vào cuối tuần. Nó cơ bản là lõi đào tạo LLM nanochat được rút gọn xuống phiên bản một tệp, một GPU với khoảng 630 dòng mã, sau đó: - con người lặp lại trên prompt (.md) - tác nhân AI lặp lại trên mã đào tạo (.py) Mục tiêu là thiết kế các tác nhân của bạn để đạt được tiến bộ nghiên cứu nhanh nhất vô hạn mà không cần sự tham gia của bạn. Trong hình, mỗi chấm là một lần chạy đào tạo LLM hoàn chỉnh kéo dài đúng 5 phút. Tác nhân làm việc trong một vòng lặp tự động trên một nhánh tính năng git và tích lũy các cam kết git vào kịch bản đào tạo khi nó tìm thấy các cài đặt tốt hơn (có độ mất mát xác thực thấp hơn vào cuối) của kiến trúc mạng nơ-ron, bộ tối ưu hóa, tất cả các siêu tham số, v.v. Bạn có thể tưởng tượng so sánh tiến bộ nghiên cứu của các prompt khác nhau, các tác nhân khác nhau, v.v. Một phần mã, một phần khoa học viễn tưởng, và một chút tâm thần :)
Mỗi giả thuyết, lần chạy đều đi kèm với biểu đồ xem xét mã; nhật ký thí nghiệm, cây DAG, và tự tổng hợp giải pháp chạy tốt nhất. Các tác nhân không cần phải bắt đầu từ 0.
Các tác nhân nghiên cứu có thể có ảnh hưởng vượt ra ngoài việc tối ưu hóa LLM; Các lĩnh vực thực sự là bất cứ điều gì có một chỉ số. Trong vài tuần tới, chúng tôi sẽ phát hành các bài viết về cách tái cấu trúc nghiên cứu tự động của @karpathy để phục vụ cho nhiều mục đích mới.
Nếu bạn là một nhà lãnh đạo trong lĩnh vực này, xin hãy liên hệ với chúng tôi! Chúng tôi cần xây dựng cộng đồng và rất mong muốn thêm những cộng tác viên cho agentipedia. Đăng ký ngay bây giờ! pip install agentipedia .
1,51K