Xây dựng hệ thống AI hỗ trợ dựa trên tài liệu người dùng cung cấp local và bảo mật

# Cập nhật package list
sudo apt update

# Cài đặt pip nếu chưa có
sudo apt install python3-pip python3-venv -y

# Tạo một thư mục cho dự án
mkdir ~/pdf-chatbot && cd ~/pdf-chatbot

# Tạo môi trường ảo Python (khuyến nghị để tránh xung đột thư viện)
python3 -m venv venv
source venv/bin/activate

pip install streamlit langchain langchain-community pypdf faiss-cpu ollama sentence-transformers

# Kiểm tra xem service Ollama có chạy không
sudo systemctl status ollama

# Kiểm tra danh sách model đã có
ollama list

# Nếu chưa có model, hãy pull một model phù hợp (ví dụ: deepseek-r1:1.5b)
ollama pull deepseek-r1:1.5b

# Import các thư viện cần thiết
import streamlit as st
from langchain_community.document_loaders import PyPDFLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.vectorstores import FAISS
from langchain_community.llms import Ollama
from langchain.chains import RetrievalQA
from langchain.prompts import PromptTemplate
import tempfile
import os

# --- Cấu hình trang Streamlit ---
st.set_page_config(page_title="📄 Chat với tài liệu (PDF)", page_icon="📄")
st.title("📄 Trò chuyện với tài liệu PDF của bạn")
st.markdown("Upload file PDF và bắt đầu đặt câu hỏi về nội dung bên trong.")

# --- Hàm xử lý tài liệu (được lưu vào cache của Streamlit để chạy lại nhanh) ---
@st.cache_resource
def process_document(file_path):
    """
    Đọc file PDF, chia nhỏ văn bản, tạo embeddings và trả về vector store.
    """
    with st.spinner("🔄 Đang xử lý tài liệu..."):
        # 1. Load PDF
        loader = PyPDFLoader(file_path)
        documents = loader.load()

        # 2. Chia nhỏ văn bản (chunking)
        text_splitter = RecursiveCharacterTextSplitter(
            chunk_size=1000,      # Kích thước mỗi đoạn (khoảng 1000 ký tự)
            chunk_overlap=200,    # Chồng lấn 200 ký tự để giữ ngữ cảnh
            length_function=len,
            separators=["\n\n", "\n", " ", ""]
        )
        chunks = text_splitter.split_documents(documents)

        # 3. Tạo embeddings (vector hóa văn bản)
        embedding_model = HuggingFaceEmbeddings(
            model_name="all-MiniLM-L6-v2" # Model embedding nhẹ, chạy tốt trên CPU
        )

        # 4. Tạo FAISS vector store
        vectorstore = FAISS.from_documents(chunks, embedding_model)

        st.success(f"✅ Đã xử lý xong {len(documents)} trang, chia thành {len(chunks)} đoạn.")
        return vectorstore

# --- Khởi tạo model LLM từ Ollama ---
@st.cache_resource
def get_llm():
    """
    Kết nối tới Ollama và trả về model.
    """
    # Thay 'deepseek-r1:1.5b' bằng model bạn đã pull
    return Ollama(model="deepseek-r1:1.5b", temperature=0.1)

# --- Giao diện chính ---
# 1. Upload file PDF
uploaded_file = st.file_uploader("Chọn file PDF", type="pdf")

if uploaded_file is not None:
    # Lưu file tạm thời
    with tempfile.NamedTemporaryFile(delete=False, suffix=".pdf") as tmp_file:
        tmp_file.write(uploaded_file.getvalue())
        tmp_path = tmp_file.name

    # Xử lý tài liệu để lấy vector store
    vectorstore = process_document(tmp_path)
    llm = get_llm()

    # Tạo retrieval chain
    retriever = vectorstore.as_retriever(search_kwargs={"k": 3}) # Lấy 3 đoạn liên quan nhất

    # Tạo prompt để hướng dẫn model chỉ trả lời dựa trên tài liệu
    prompt_template = """
    Hãy trả lời câu hỏi dựa CHỈ trên thông tin được cung cấp trong ngữ cảnh dưới đây.
    Nếu câu trả lời không có trong ngữ cảnh, hãy nói "Tôi không tìm thấy thông tin này trong tài liệu."
    Đừng thêm thông tin từ kiến thức của bạn.

    Ngữ cảnh:
    {context}

    Câu hỏi: {question}
    Trả lời:
    """
    PROMPT = PromptTemplate(
        template=prompt_template, input_variables=["context", "question"]
    )

    # Xây dựng chain QA
    qa_chain = RetrievalQA.from_chain_type(
        llm=llm,
        chain_type="stuff",
        retriever=retriever,
        chain_type_kwargs={"prompt": PROMPT},
        return_source_documents=True # Trả về nguồn để biết đoạn nào được dùng
    )

    # Giao diện chat
    st.markdown("---")
    st.subheader("💬 Đặt câu hỏi")

    # Khởi tạo lịch sử chat trong session state
    if "messages" not in st.session_state:
        st.session_state.messages = []

    # Hiển thị lịch sử chat
    for message in st.session_state.messages:
        with st.chat_message(message["role"]):
            st.markdown(message["content"])

    # Input cho câu hỏi mới
    if prompt := st.chat_input("Nhập câu hỏi của bạn..."):
        # Thêm câu hỏi vào lịch sử và hiển thị
        st.session_state.messages.append({"role": "user", "content": prompt})
        with st.chat_message("user"):
            st.markdown(prompt)

        # Gửi câu hỏi đến QA chain và nhận kết quả
        with st.chat_message("assistant"):
            with st.spinner("Đang suy nghĩ..."):
                result = qa_chain.invoke({"query": prompt})
                answer = result['result']
                # source_docs = result['source_documents'] # Bạn có thể dùng để hiển thị nguồn

                st.markdown(answer)
                # Ví dụ: Hiển thị nguồn tham khảo (nếu muốn)
                # with st.expander("Xem nguồn tham khảo"):
                #     for i, doc in enumerate(source_docs):
                #         st.write(f"**Đoạn {i+1}:**")
                #         st.write(doc.page_content)
                #         st.write("---")

        # Thêm câu trả lời vào lịch sử
        st.session_state.messages.append({"role": "assistant", "content": answer})

    # Xóa file tạm sau khi xử lý
    os.unlink(tmp_path)

else:
    st.info("👆 Vui lòng upload một file PDF để bắt đầu.")

streamlit run app.py

  You can now view your Streamlit app in your browser.

  Local URL: http://localhost:8501
  Network URL: http://192.168.3.6:8501