Hình dưới đây là một tiến trình học (roadmap) giúp bạn trở thành một AI Enginner nếu có nền tảng về lập trình (software engineer) và chuyển sang lĩnh vực đang có tiềm năng lớn.
Mức lương trung bình kỹ sư phần mềm trên dưới 200.000 USD mỗi năm, tuy nhiên những kỹ sư AI năng lực tốt có thể nhận lương từ 500.000 đến 800.000 USD mỗi năm. Tất nhiên là ở đẳng cấp thế giới! Nhưng ở Việt Nam thì lương AI Enginner cũng sẽ rất khá. Nói chung cũng gấp đôi lương kỹ sư phần mềm bình thường.
7 bước để trở thành kỹ sư AI theo kỹ sư AI Maxime Labonne
1. Chạy các mô hình ngôn ngữ lớn (LLMs):
Chạy LLMs đòi hỏi phần cứng mạnh. Bạn có thể sử dụng API (như GPT-4) hoặc chạy cục bộ với các công cụ như LM Studio hoặc llama.cpp. Các kỹ thuật như zero-shot, few-shot, và chain of thought có thể cải thiện đầu ra.
2. Tìm hiểu và xây dựng vector databse:
Tìm hiểu về vector database là bước đầu tiên để xây dựng hệ thống RAG. Sử dụng các công cụ như Pinecone, FAISS, và Milvus để lưu trữ và truy xuất các vector. Các mô hình embedding như Sentence Transformers giúp chuyển đổi văn bản thành các biểu diện dạng vector.
3. Truy xuất và tăng cường tạo sinh (RAG):
RAG giúp LLMs truy xuất tài liệu từ cơ sở dữ liệu để cải thiện độ chính xác của câu trả lời. Sử dụng các khung như LangChain, LlamaIndex để kết nối LLMs với các công cụ và cơ sở dữ liệu. Áp dụng các kỹ thuật như multi-query retriever và HyDE để cải thiện hiệu suất truy xuất.
4. RAG nâng cao:
Các ứng dụng thực tế yêu cầu các pipeline phức tạp hơn, bao gồm cơ sở dữ liệu SQL hoặc đồ thị và lựa chọn công cụ tự động. Sử dụng các công cụ như DSPy để tối ưu hóa quá trình tạo và truy vấn dữ liệu, đồng thời áp dụng các kỹ thuật như RAG-fusion và re-ranking.
5. Tối ưu hóa suy luận:
Sử dụng các kỹ thuật như Flash Attention để tối ưu hóa cơ chế attention, Multi-Query Attention (MQA) và Grouped-Query Attention (GQA) để tăng tốc quá trình tạo văn bản và giảm chi phí suy luận. Speculative decoding cũng giúp tăng tốc độ bằng cách sử dụng mô hình nhỏ để tạo nháp.
6. Triển khai các mô hình ngôn ngữ lớn:
Triển khai LLMs đòi hỏi cơ sở hạ tầng mạnh mẽ. Sử dụng các công cụ như Gradio, Streamlit để tạo nguyên mẫu ứng dụng và triển khai trên cloud hoặc cục bộ. Đối với triển khai trên môi trường hạn chế, các framework như MLC LLM và mnn-llm có thể hữu ích.
7. Bảo mật LLMs:
LLMs có các điểm yếu độc đáo. Sử dụng các biện pháp bảo vệ như kiểm tra đỏ (red teaming), quan sát sản xuất (production monitoring) và kiểm tra lỗi (fuzz testing) để bảo vệ ứng dụng của bạn khỏi các lỗ hổng như prompt injection và data leakage.
Bắt đầu hành trình của bạn để trở thành kỹ sư AI ngay hôm nay!
