Giải thích về cửa sổ ngữ cảnh LLM: Mã thông báo, giới hạn và cách phù hợp hơn, được đo lường

  1. Trang chủ
  2. Blog
  3. Trí tuệ nhân tạo

Trí tuệ nhân tạo

Giải thích về Cửa sổ ngữ cảnh LLM: Mã thông báo, giới hạn và cách phù hợp hơn, được đo lường

Cửa sổ ngữ cảnh LLM là tổng số mã thông báo mà mô hình có thể đọc và ghi trong một yêu cầu. Tìm hiểu những gì lấp đầy nó, cách các từ biến thành mã thông báo, cách lập ngân sách đầu vào và đầu ra cũng như cách cắt bớt lịch sử trò chuyện một cách an toàn, với số lượng chúng tôi đã đo được.

Đọc 9 phút
Cửa sổ ngữ cảnh LLM được giải thích: mã thông báo, giới hạn và cách phù hợp hơn, được đo lường

Điểm chính

  • Cửa sổ ngữ cảnh LLM là giới hạn mã thông báo được chia sẻ bởi mọi thứ: lời nhắc hệ thống, lịch sử, tài liệu và câu trả lời.
  • Mã thông báo không phải là lời nói. Văn xuôi tiếng Anh của chúng tôi sử dụng 1,14 mã thông báo mỗi từ, mã Python 2,22 và văn bản tiếng Hindi 1,41 với một mã thông báo nhưng khoảng 4,6 với một mã thông báo cũ hơn.
  • Lịch sử trò chuyện phát triển mỗi lượt. Cắt bớt các tin nhắn cũ nhất nhưng luôn giữ lời nhắc của hệ thống; cách cắt ngây thơ đã đánh rơi nó trong thử nghiệm của chúng tôi.
  • Một cửa sổ lớn không phải là một tấm vé miễn phí. Những lời nhắc dài sẽ tốn nhiều chi phí hơn, chạy chậm hơn và có thể che mất những chi tiết quan trọng.

Bạn dán một hợp đồng dài vào chatbot và nó trả lời như thể mười trang cuối cùng chưa từng tồn tại. Hoặc bot hỗ trợ dần “quên” các quy tắc bạn đưa ra. Cả hai đều chuyển xuống Cửa sổ ngữ cảnh LLM: số lượng mã thông báo cố định mà một mô hình ngôn ngữ lớn có thể hoạt động trong một yêu cầu. Biết cách nó lấp đầy sẽ giúp bạn xây dựng các tính năng AI luôn chính xác và giá cả phải chăng.

Chúng tôi đã đo các con số bên dưới bằng thư viện mã nguồn mở tiktoken của OpenAI, phiên bản 0.14.0, sử dụng mã hóa o200k_base trở lên cl100k_base trên Python 3.13. Các nhóm mô hình khác sử dụng các mã thông báo khác, vì vậy hãy coi số lượng của chúng tôi là ví dụ thực tế chứ không phải số liệu chính xác cho mọi mô hình. Để biết thông tin cơ bản về mã thông báo, hãy xem Hướng dẫn về mã thông báo LLM của chúng tôi.

Cửa sổ ngữ cảnh là gì?

Một mô hình không tự mình ghi nhớ các yêu cầu trước đó. Mỗi lần bạn gọi nó, bạn sẽ gửi văn bản và mô hình sẽ đọc tất cả văn bản đó trước khi tạo phản hồi. Cửa sổ ngữ cảnh là kích thước tối đa của văn bản kết hợp đó, được đo bằng mã thông báo. Nếu cửa sổ có 128.000 mã thông báo thì đầu vào và đầu ra phải khớp với nhau bên trong nó. Hướng dẫn của chúng tôi về mô hình ngôn ngữ lớn là gì giải thích lý do mô hình hoạt động theo cách này.

Kích thước cửa sổ dao động từ vài nghìn mã thông báo trên các mô hình nhỏ đến hàng trăm nghìn hoặc hơn một triệu trên các mô hình lớn. Kích thước thay đổi theo mỗi bản phát hành, vì vậy hãy kiểm tra tài liệu của nhà cung cấp để biết giới hạn chính xác và bất kỳ giới hạn riêng biệt nào đối với mã thông báo đầu ra.

Những gì lấp đầy cửa sổ ngữ cảnh

  • Lời nhắc của hệ thống: hướng dẫn, quy tắc và tính cách.
  • Lịch sử cuộc trò chuyện: mọi tin nhắn của người dùng và trợ lý trước đó mà bạn gửi lại.
  • Nội dung được truy xuất hoặc dán: tài liệu, kết quả tìm kiếm, tệp mã.
  • Định nghĩa và kết quả của công cụ: lược đồ hàm và dữ liệu mà chúng trả về.
  • Câu trả lời chính là: mã thông báo đầu ra có cùng ngân sách.

Điểm cuối cùng đó khiến nhiều người ngạc nhiên. Lời nhắc sử dụng gần như toàn bộ cửa sổ không còn chỗ cho câu trả lời nên câu trả lời bị cắt ngắn.

Từ ngữ và mã thông báo: những gì chúng tôi đo lường

Chúng tôi lặp lại ba văn bản ngắn 20 lần mỗi văn bản và đếm các từ và mã thông báo:

văn bản từ o200k token Mã thông báo cho mỗi từ token cl100k
văn xuôi tiếng anh 740 841 1.14 841
Mã Python 180 400 2.22 400
văn bản tiếng Hin-ddi 300 422 1.41 1,381

Ba bài học nổi bật. Tiếng Anh đơn giản gần bằng một mã thông báo cho mỗi từ. Mã sử ​​dụng số lượng mã thông báo nhiều gấp đôi cho mỗi “từ”, bởi vì các ký hiệu, thụt lề và tên viết tắt đều lấy mã thông báo. Và ngôn ngữ cực kỳ quan trọng: cùng một văn bản tiếng Hindi đã lấy 422 mã thông báo với mã thông báo mới hơn và 1.381 mã thông báo với mã cũ hơn, nhiều hơn gấp ba lần. Một cửa sổ chứa tài liệu tiếng Anh dài có thể chứa ít tài liệu bằng ngôn ngữ khác hơn.

import tiktoken
enc = tiktoken.get_encoding("o200k_base")
print(len(enc.encode("Your text here")))

Mẹo: không bao giờ ước tính mã thông báo bằng cách chia các ký tự cho bốn để có giới hạn sản xuất. Đếm bằng mã thông báo cho mô hình của bạn, sau đó giữ giới hạn an toàn.

Lập ngân sách cho một yêu cầu

Chúng tôi đã lên kế hoạch cho một yêu cầu với lời nhắc hệ thống 600 mã thông báo, 4.200 mã thông báo lịch sử trò chuyện và 25.000 mã thông báo tài liệu, sau đó kiểm tra yêu cầu đó theo ba kích thước cửa sổ, dành 2.000 mã thông báo cho câu trả lời:

window   8000: input 29800 tokens, left -21800, room for 2,000-token answer: False
window  32000: input 29800 tokens, left   2200, room for 2,000-token answer: True
window 128000: input 29800 tokens, left  98200, room for 2,000-token answer: True

Cửa sổ 8K hoàn toàn không thể nhận yêu cầu. Khoảng thời gian 32K vừa vặn, nhưng chỉ còn 2.200 mã thông báo dự phòng, vì vậy một tài liệu nữa sẽ thu được câu trả lời. Viết séc này vào mã của bạn trước mỗi cuộc gọi: đếm các phần, trừ đi ngân sách đầu ra dành riêng và quyết định cắt giảm những gì nếu nó không phù hợp.

Điều gì xảy ra khi bạn đi qua

Hành vi phụ thuộc vào API và ứng dụng. Một số API từ chối yêu cầu do gặp lỗi. Một số ứng dụng trò chuyện âm thầm gửi đi những tin nhắn cũ nhất. Một số tài liệu cắt ngắn. Và nếu đầu vào vừa vặn nhưng còn quá ít chỗ, câu trả lời sẽ dừng ở giữa câu khi chạm đến giới hạn đầu ra. Không có điều nào trong số này là rõ ràng đối với người dùng, đó là lý do tại sao mô hình dường như “quên” hoặc bỏ qua một phần của tài liệu.

Lịch sử trò chuyện phát triển theo từng lượt

Các ứng dụng trò chuyện sẽ gửi lại toàn bộ cuộc trò chuyện mỗi lượt để mô hình có thể nhìn thấy. Với khoảng 350 token mỗi lượt:

chat of 10 turns x 350 tokens = 3500 tokens
chat of 50 turns x 350 tokens = 17500 tokens
chat of 200 turns x 350 tokens = 70000 tokens

Một cuộc trò chuyện hỗ trợ kéo dài có thể lặng lẽ đạt tới hàng chục nghìn mã thông báo và mỗi tin nhắn mới lại trả tiền cho tất cả những tin nhắn cũ.

Cắt bớt lịch sử mà không làm mất các quy tắc

Chúng tôi đã xây dựng một cuộc trò chuyện gồm 31 tin nhắn với 1.455 mã thông báo và giảm nó xuống giới hạn 800 mã thông báo theo hai cách. Cách thông minh luôn nhắc nhở hệ thống, sau đó thêm tin nhắn từ mới nhất đến cũ nhất cho đến khi đủ ngân sách. Cách ngây thơ chỉ giữ lại 800 mã thông báo cuối cùng của văn bản đã nối.

history: 31 messages, 1455 tokens -> kept 17 (783 tokens), system kept: True, oldest kept: 'message 14'
naive tail-truncation keeps system prompt: False

Phiên bản ngây thơ đã bỏ lời nhắc hệ thống, trong đó có hướng dẫn “Luôn trả lời bằng tiếng Anh”. Đó chính xác là lý do bot mất quy tắc trong các cuộc trò chuyện dài. Các chiến lược tốt hơn, đại khái theo thứ tự nỗ lực:

  • Luôn ghim lời nhắc hệ thống và tin nhắn mới nhất của người dùng.
  • Bỏ hoặc tóm tắt các lượt cũ nhất trước.
  • Thay thế các lượt cũ bằng một bản tóm tắt ngắn gọn do người mẫu viết.
  • Lưu trữ dữ kiện bên ngoài cuộc trò chuyện và chỉ truy xuất những gì câu hỏi hiện tại cần.

Cửa sổ ngữ cảnh lớn hơn có luôn tốt hơn không?

Không. Một cửa sổ lớn cho phép bạn đưa vào nhiều hơn, nhưng nghiên cứu chẳng hạn như nghiên cứu “Lost in the Middle” năm 2023 của Liu và các đồng nghiệp đã phát hiện ra rằng các mô hình sử dụng thông tin ở đầu và cuối của các đầu vào dài đáng tin cậy hơn thông tin ở giữa. Chúng tôi đã không tự mình kiểm tra điều đó. Trong thực tế, việc chỉ gửi những phần có liên quan thường tốt hơn việc gửi mọi thứ và nó làm giảm ảo giác do văn bản gây mất tập trung hoặc xung đột gây ra. Đặt các hướng dẫn chính ở gần đầu và trình bày lại câu hỏi thực tế ở cuối.

Phân đoạn và truy xuất (RAG)

Thế hệ tăng cường truy xuất giữ tài liệu bên ngoài dấu nhắc. Bạn chia chúng thành nhiều phần, tìm những phần liên quan đến một câu hỏi và chỉ gửi những phần đó. Chúng tôi chia tài liệu 4.201 mã thông báo thành các phần có tối đa 500 mã thông báo với phần chồng chéo 50 mã thông báo và nhận được 10 phần. Sự chồng chéo giữ cho các câu vượt qua ranh giới có thể đọc được trong ít nhất một đoạn.

def chunks(text, size, overlap):
    ids = enc.encode(text)
    step = size - overlap
    return [enc.decode(ids[i:i + size]) for i in range(0, max(1, len(ids) - overlap), step)]

Các đoạn được khớp với các câu hỏi bằng cách sử dụng phần nhúng được lưu trữ trong chỉ mục vectơ. Hướng dẫn RAG là gì của chúng tôi sẽ trình bày toàn bộ quy trình.

Chi phí và tốc độ

Hầu hết các API tính phí theo mã thông báo đầu vào và đầu ra và các lời nhắc dài hơn sẽ mất nhiều thời gian hơn để xử lý. Lời nhắc 100.000 mã thông báo được gửi 1.000 lần một ngày là 100.000.000 mã thông báo đầu vào hàng ngày, ngay cả khi câu trả lời ngắn. Việc cắt bớt lịch sử, truy xuất thay vì dán và lưu vào bộ nhớ đệm các tiền tố nhắc nhở lặp lại mà nhà cung cấp hỗ trợ có thể cắt giảm đáng kể chi phí và độ trễ. Kiểm tra giá hiện tại trên trang định giá của nhà cung cấp vì chúng thay đổi thường xuyên.

Kiểm tra giới hạn ngữ cảnh trong ứng dụng của bạn

  • Thử nghiệm với đầu vào thực tế dài nhất chứ không phải mẫu ngắn.
  • Kiểm tra các cuộc trò chuyện dài: bot có còn làm theo lời nhắc của hệ thống sau 50 lượt không?
  • Kiểm tra đầu vào không phải tiếng Anh, có thể sử dụng nhiều mã thông báo hơn.
  • Xác nhận rằng mã của bạn dự trữ mã thông báo đầu ra và xử lý các lỗi vượt quá giới hạn một cách khéo léo.
  • Kiểm tra xem việc cắt tỉa có bao giờ loại bỏ các quy tắc an toàn hay không, điều này cũng quan trọng đối với việc bảo vệ tiêm nhanh chóng.

Lời kết

Cửa sổ ngữ cảnh LLM là ngân sách mã thông báo được chia sẻ chứ không phải bộ nhớ. Đếm mã thông báo bằng mã thông báo phù hợp, dành chỗ cho câu trả lời, ghim lời nhắc hệ thống của bạn khi cắt bớt lịch sử và truy xuất các đoạn có liên quan thay vì dán mọi thứ. Làm điều đó và thậm chí một cửa sổ khiêm tốn sẽ đi được một chặng đường dài, trong khi một cửa sổ lớn vẫn nhanh chóng và giá cả phải chăng. Lời nhắc rõ ràng cũng hữu ích, như hướng dẫn kỹ thuật nhanh chóng của chúng tôi cho thấy.

Câu hỏi thường gặp

Cửa sổ ngữ cảnh trong LLM là gì?

Đó là số lượng mã thông báo tối đa mà một mô hình có thể xử lý trong một yêu cầu, bao gồm lời nhắc hệ thống, lịch sử hội thoại, tài liệu đã thêm và câu trả lời được tạo cùng nhau.

Có bao nhiêu từ phù hợp trong một cửa sổ ngữ cảnh?

Nó phụ thuộc vào văn bản và mã thông báo. Văn xuôi tiếng Anh của chúng tôi sử dụng khoảng 1,14 mã thông báo mỗi từ, vì vậy 100.000 mã thông báo là khoảng 88.000 từ, nhưng mã và nhiều ngôn ngữ khác sử dụng nhiều mã thông báo hơn cho mỗi từ.

Điều gì xảy ra khi bạn vượt quá cửa sổ ngữ cảnh?

API có thể từ chối yêu cầu, ứng dụng có thể loại bỏ các tin nhắn cũ hơn hoặc cắt bớt tài liệu hoặc câu trả lời có thể bị cắt do không còn mã thông báo đầu ra.

Đầu ra có được tính vào cửa sổ ngữ cảnh không?

Đúng. Đầu vào và đầu ra chia sẻ cùng một cửa sổ, vì vậy hãy luôn dự trữ đủ mã thông báo cho câu trả lời. Nhiều API cũng có mức tối đa riêng cho mã thông báo đầu ra.

Cửa sổ ngữ cảnh lớn hơn có tốt hơn RAG không?

Không phải lúc nào cũng vậy. Cửa sổ lớn có giá cao hơn và mô hình có thể bỏ sót chi tiết khi nhập liệu dài. Chỉ truy xuất những phần có liên quan thường rẻ hơn và chính xác hơn.

Tiếp tục học hỏi

Làm việc với Stack Quora

Cần trợ giúp về kiểm tra, WordPress hoặc SEO?

Chúng tôi giúp các nhóm phát triển phần mềm tốt hơn và phát triển trang web của họ. Hãy cho chúng tôi biết bạn đang làm gì và chúng tôi sẽ đề xuất bước tiếp theo rõ ràng.

Tiếp tục đọc

Thêm hướng dẫn về thử nghiệm, AI và phát triển hiện đại

Bạn thích bài viết này? Chọn một chủ đề và chuyển ngay sang phần hướng dẫn mới nhất của chúng tôi.

Trí tuệ nhân tạo

Giải thích về chiến lược phân đoạn RAG: Cố định, chồng chéo, câu, đệ quy và tiêu đề, được đo lường

Các chiến lược phân đoạn RAG được so sánh trên một tài liệu với tiktoken 0.14: kích thước cố định, chồng chéo, đóng gói câu, phân tách đệ quy và phâ…

Đọc bài viết →
Phát triển phần mềm

Giải thích về tính tạm thời của API: Khóa tạm thời và các lần thử lại an toàn, đã được kiểm tra

Tính tạm thời của API được giải thích bằng máy chủ và máy khách Python mà chúng tôi đã chạy: phản hồi bị mất gây ra khoản phí gấp đôi mà không có kh…

Đọc bài viết →
DevOps

Giải thích về Git Stash: Lưu, Áp dụng, Bật và Không theo dõi các tệp, đã được kiểm tra

Git stash được giải thích bằng các lệnh chúng tôi chạy trên Git 2.56: đẩy bằng tin nhắn, tệp không bị theo dõi, liệt kê và hiển thị, áp dụng so với …

Đọc bài viết →
Kiểm thử phần mềm

Giải thích về kiểm tra theo cặp: Cách tất cả các cặp cắt 216 bài kiểm tra xuống còn 13, đã được kiểm tra

Thử nghiệm theo cặp được giải thích bằng trình tạo mà chúng tôi đã chạy trong Python 3.13: một quá trình kiểm tra với 216 kết hợp được bao phủ bởi 1…

Đọc bài viết →
Tự động hóa kiểm thử

Giải thích về các thử nghiệm nhân đôi: Giả, Sơ khai, Gián điệp, Mock và Giả mạo, với Mã Python đã được thử nghiệm

Kiểm tra nhân đôi được giải thích bằng một ví dụ Python chạy trong pytest 9.2: giả, sơ khai, gián điệp, mô phỏng và giả mạo, khi nào nên sử dụng từn…

Đọc bài viết →
Cơ sở dữ liệu & SQL

Giải thích về SQL COALESCE: Mặc định, NULLIF, IFNULL so với ISNULL và Bẫy, đã kiểm tra

SQL COALESCE được giải thích bằng các truy vấn chúng tôi đã chạy trong SQLite 3.50: giá trị không null đầu tiên, chuỗi trống, NULL trong toán học, N…

Đọc bài viết →
Cơ sở dữ liệu & SQL

Giải thích về Tự tham gia SQL: Người quản lý nhân viên, So sánh cặp và hàng, đã được kiểm tra

Tính năng tự tham gia SQL được giải thích bằng các truy vấn chúng tôi đã chạy trong SQLite 3.50: nhân viên và người quản lý, kiếm được nhiều tiền hơ…

Đọc bài viết →
Phát triển phần mềm

Giải thích về toán tử lây lan JavaScript: Trải so với phần còn lại, Bản sao và vấn đề, đã được thử nghiệm

Toán tử trải rộng JavaScript được giải thích bằng mã chúng tôi chạy trên Nút 24: mảng, đối tượng, bản sao nông, tham số còn lại, giới hạn Math.max v…

Đọc bài viết →
Phát triển phần mềm

Giải thích về mô-đun Bộ sưu tập Python: Bộ đếm, defaultdict, deque và hơn thế nữa, đã được kiểm tra

Các bộ sưu tập Python được giải thích bằng mã chúng tôi chạy trên Python 3.13: Counter, defaultdict, deque, knowntuple, OrderedDict và ChainMap, cùn…

Đọc bài viết →
Trí tuệ nhân tạo

Giải thích về cửa sổ ngữ cảnh LLM: Mã thông báo, giới hạn và cách phù hợp hơn, được đo lường

Cửa sổ ngữ cảnh LLM được giải thích bằng số lượng mã thông báo mà chúng tôi đã đo bằng tiktoken: từ so với mã thông báo cho văn xuôi, mã và tiếng Hi…

Đọc bài viết →
Phát triển phần mềm

Giải thích về Webhooks: Cách chúng hoạt động và cách nhận chúng một cách an toàn

Webhooks đã giải thích với người nhận và người gửi mà chúng tôi đã chạy bằng Python: đẩy so với bỏ phiếu, chữ ký HMAC-SHA256, từ chối các yêu cầu bị…

Đọc bài viết →
DevOps

Giải thích về Git Cherry-Pick: Sao chép cam kết bạn cần, một cách an toàn, đã được kiểm tra

Git Cherry-pick đã giải thích bằng các lệnh chúng tôi đã chạy trong Git 2.56: sao chép một hotfix vào một nhánh phát hành, các mã băm và id bản vá m…

Đọc bài viết →
Tự động hóa kiểm thử

Giải thích về thử nghiệm chụp nhanh: Cách thức hoạt động, khi nào nó giúp ích và khi nào nó gây tổn hại

Thử nghiệm ảnh chụp nhanh được giải thích bằng bản demo pytest và siro mà chúng tôi đã chạy: tạo ảnh chụp nhanh, đọc điểm khác biệt sau khi thay đổi…

Đọc bài viết →
Kiểm thử phần mềm

Giải thích về kiểm thử đột biến: Tại sao mức độ bao phủ 100% vẫn bỏ sót lỗi của chúng tôi

Thử nghiệm đột biến được giải thích bằng một công cụ đột biến nhỏ mà chúng tôi đã xây dựng và chạy: 14 đột biến, một bộ thử nghiệm có độ bao phủ dòn…

Đọc bài viết →
Trí tuệ nhân tạo

Giải thích về việc tiêm nhắc nhở: Cách các ứng dụng AI bị lừa và cách bảo vệ chúng

Giải thích về tính năng tiêm nhắc nhở dành cho người xây dựng: các cuộc tấn công trực tiếp và gián tiếp, lý do tại sao bộ lọc từ khóa không thành cô…

Đọc bài viết →
DevOps

Giải thích về bản ghi DNS: A, AAAA, CNAME, MX, TXT và TTL với tra cứu thực

Bản ghi DNS được giải thích bằng các tra cứu mà chúng tôi đã chạy: cách thức hoạt động của độ phân giải, quy tắc A và AAAA, CNAME, MX và null MX, TX…

Đọc bài viết →
DevOps

Giải thích về cờ tính năng: Phát hành an toàn, triển khai dần dần và vệ sinh cờ

Cờ tính năng được giải thích bằng mô phỏng triển khai mà chúng tôi đã chạy: loại cờ, triển khai phần trăm với hàm băm ổn định, khóa chuyển đổi, danh…

Đọc bài viết →
Tự động hóa kiểm thử

Kiểm tra việc tạo dữ liệu với Python Faker: Dữ liệu thực tế, có thể lặp lại và an toàn

Kiểm tra việc tạo dữ liệu bằng Python Faker, chạy và đo lường: gieo hạt cho dữ liệu lặp lại, ngôn ngữ, giá trị duy nhất, bản ghi hình miền, trường h…

Đọc bài viết →
Kiểm thử phần mềm

Giải thích về kiểm tra Shift-Left: Tìm lỗi sớm hơn mà không làm chậm nhóm

Giải thích về thử nghiệm dịch chuyển sang trái: ý nghĩa của nó, tại sao các lỗi sớm lại rẻ hơn, các phương pháp thực hành từ đánh giá yêu cầu đến ki…

Đọc bài viết →
Cơ sở dữ liệu & SQL

Giải thích về các hàm chuỗi SQL: TRIM, SUBSTR, REPLACE, CONCAT và Data Cleanup

Các hàm chuỗi SQL được giải thích bằng các truy vấn mà chúng tôi đã chạy: nối và NULL, TRIM, UPPER và LOWER, SUBSTR và INSTR, REPLACE, phần đệm, độ …

Đọc bài viết →
Cơ sở dữ liệu & SQL

Giải thích về Trình kích hoạt SQL: TRƯỚC và SAU Trình kích hoạt, Nhật ký kiểm tra và cạm bẫy

Trình kích hoạt SQL được giải thích bằng các trình kích hoạt mà chúng tôi đã chạy: TRƯỚC so với SAU, CŨ và MỚI, nhật ký kiểm tra, xác thực, cập nhật…

Đọc bài viết →
Phát triển phần mềm

Giải thích về mô-đun JSON của Python: kết xuất, tải, loại tùy chỉnh và các lỗi phổ biến

Mô-đun Python JSON được giải thích bằng mã chúng tôi đã chạy: kết xuất và tải, tệp, chuyển đổi loại, ngày tháng và số thập phân, bộ mã hóa tùy chỉnh…

Đọc bài viết →
Phát triển phần mềm

Mô-đun ES so với CommonJS: Cách nhập JavaScript hoạt động trong Node.js, đã được thử nghiệm

Các mô-đun ES và CommonJS được giải thích bằng mã chúng tôi chạy trong Node.js: cú pháp nhập và xuất, yêu cầu, liên kết trực tiếp, bộ nhớ đệm, chờ đ…

Đọc bài viết →
Phát triển phần mềm

Giải thích về Regex của Python: Các mẫu, Nhóm, Nhìn trước và Cạm bẫy, đã được thử nghiệm

Regex Python được giải thích bằng các mẫu mà chúng tôi đã chạy: tìm kiếm so với đối sánh, tìm tất cả, nhóm và nhóm được đặt tên, tham lam và lười bi…

Đọc bài viết →
Trí tuệ nhân tạo

Giải thích đầu ra có cấu trúc LLM: Nhận JSON đáng tin cậy từ các mô hình AI

Đầu ra có cấu trúc LLM được giải thích bằng quá trình xác thực mà chúng tôi đã chạy trong Pydantic: chế độ và lược đồ JSON, giải mã ràng buộc, cách …

Đọc bài viết →
DevOps

Giải thích về Khóa SSH: Cách chúng hoạt động, ssh-keygen, Ed25519 và Thói quen an toàn

Khóa SSH được giải thích bằng các khóa chúng tôi đã tạo: khóa chung và khóa riêng, ssh-keygen, Ed25519 so với RSA, dấu vân tay, cụm mật khẩu, ssh-ag…

Đọc bài viết →
DevOps

Giải thích về bộ nhớ đệm HTTP: Kiểm soát bộ đệm, ETag và phản hồi 304, bằng thử nghiệm trực tiếp

Bộ nhớ đệm HTTP được giải thích bằng một máy chủ nhỏ mà chúng tôi đã chạy: Chỉ thị Kiểm soát bộ đệm, tuổi tối đa, không có bộ đệm so với không lưu t…

Đọc bài viết →
Tự động hóa kiểm thử

Giải thích về kiểm tra hợp đồng API: Nắm bắt những thay đổi đột phá trước khi chúng xuất xưởng

Thử nghiệm hợp đồng API được giải thích bằng kiểm tra lược đồ mà chúng tôi đã chạy: hợp đồng là gì, hợp đồng hướng đến người tiêu dùng, Pact, OpenAP…

Đọc bài viết →
Kiểm thử phần mềm

Giải thích về thử nghiệm dựa trên rủi ro: Đánh giá rủi ro, xây dựng ma trận và kiểm tra những vấn đề quan trọng

Thử nghiệm dựa trên rủi ro được giải thích từng bước: xác định rủi ro, cho điểm khả năng và tác động, xây dựng ma trận rủi ro, ánh xạ rủi ro đến độ …

Đọc bài viết →
Cơ sở dữ liệu & SQL

Giải thích về các ràng buộc SQL: KHÔNG phải NULL, ĐỘC ĐÁO, KIỂM TRA và KHÓA NGOẠI TỆ, Đã được kiểm tra

Các ràng buộc SQL được giải thích bằng các thử nghiệm mà chúng tôi đã chạy: NOT NULL, UNIQUE, CHECK, DEFAULT, PRIMARY và FOREIGN KEY, các lỗ hổng NU…

Đọc bài viết →
Cơ sở dữ liệu & SQL

Giải thích về các hàm ngày trong SQL: Thêm, so sánh và nhóm các ngày mà không có lỗi

Các hàm ngày SQL được giải thích bằng các truy vấn chúng tôi đã chạy: thêm khoảng thời gian, bất ngờ cuối tháng, chênh lệch ngày, bẫy GIỮA, nhóm the…

Đọc bài viết →
Phát triển phần mềm

Giải thích về asyncio của Python: async, chờ đợi, thu thập và Nhóm tác vụ với thời gian thực

Python asyncio đã giải thích bằng mã mà chúng tôi đã tính thời gian: coroutines, chờ đợi, thu thập, Nhóm tác vụ, xử lý lỗi, hết thời gian chờ, hạn c…

Đọc bài viết →
Phát triển phần mềm

Debounce vs Throttle trong JavaScript: Cách chúng hoạt động, thời điểm sử dụng từng cái, đã được kiểm tra

Gỡ lỗi và điều tiết trong JavaScript được giải thích bằng thời gian chúng tôi đo được trong Node.js: cách mỗi hoạt động, cách triển khai đơn giản, l…

Đọc bài viết →
Phát triển phần mềm

Giải thích về Trình quản lý bối cảnh Python: Câu lệnh with, contextlib và Công dụng thực sự

Trình quản lý bối cảnh Python được giải thích bằng mã chúng tôi đã chạy: cách thức hoạt động, __enter__ và __exit__, contextlib.contextmanager, ngăn…

Đọc bài viết →
Trí tuệ nhân tạo

Giải thích về nhiệt độ LLM và Top-p: Cách các mô hình AI chọn từ tiếp theo của họ

Nhiệt độ LLM và top-p được giải thích bằng một mô phỏng mà chúng tôi đã chạy: xác suất được định hình lại như thế nào, top-p giữ những gì, cài đặt đ…

Đọc bài viết →
DevOps

Giải thích về YAML: Cú pháp, Vấn đề ở Na Uy và các bẫy khác mà chúng tôi đã thử nghiệm

YAML đã giải thích bằng bài kiểm tra trình phân tích cú pháp: cú pháp cơ bản, danh sách và bản đồ, vấn đề ở Na Uy, các phiên bản chuyển thành số flo…

Đọc bài viết →
DevOps

Giải thích về Cron Jobs: Cú pháp, lịch trình thực tế và những sai lầm khiến chúng gặp phải

Công việc định kỳ được giải thích bằng lịch trình mà chúng tôi đã xác minh: năm trường, toán tử, ví dụ thực tế, bẫy ngày trong tháng HOẶC ngày trong…

Đọc bài viết →
Trí tuệ nhân tạo

Giải thích về ảo giác AI: Tại sao các mô hình ngôn ngữ lại tạo nên mọi thứ và cách giảm thiểu nó

Ảo giác AI đã giải thích: chúng là gì, tại sao mô hình ngôn ngữ tạo ra chúng, các loại phổ biến, cách giảm thiểu chúng bằng cách căn cứ và nhắc nhở …

Đọc bài viết →
DevOps

Giải thích về các biến môi trường: Tệp .env, bí mật và cấu hình được thực hiện đúng

Các biến môi trường được giải thích bằng các ví dụ Python mà chúng tôi đã chạy: đọc và thiết lập chúng, tại sao mọi giá trị đều là một chuỗi, tệp .e…

Đọc bài viết →
Phát triển phần mềm

Giải thích về giới hạn tỷ lệ API: Thuật toán, tiêu đề và xử lý lỗi 429

Giới hạn tốc độ API được giải thích bằng mô phỏng mà chúng tôi đã chạy: nhóm mã thông báo, cửa sổ cố định, cửa sổ trượt, 429 phản hồi, tiêu đề giới …

Đọc bài viết →
Tự động hóa kiểm thử

Chế giễu bằng Python: unittest.mock, patch và những sai lầm khiến bài kiểm tra nói dối

Mô phỏng bằng Python với unittest.mock, đã được thử nghiệm: Mock và return_value, side_effect, vá lỗi nơi sử dụng tên, thông số kỹ thuật và thông số…

Đọc bài viết →
Kiểm thử phần mềm

Giải thích về phạm vi bảo hiểm của mã: Phạm vi tuyến so với chi nhánh và ý nghĩa thực sự 100%

Phạm vi bảo hiểm mã được giải thích bằng cách chạy phạm vi bảo hiểm thực tế: phạm vi bảo hiểm dòng, chi nhánh và điều kiện, đọc báo cáo, lý do tại s…

Đọc bài viết →
Cơ sở dữ liệu & SQL

DELETE vs TRUNCATE vs DROP trong SQL: Sự khác biệt, khôi phục và thời điểm sử dụng mỗi loại

DELETE vs TRUNCATE vs DROP được giải thích bằng SQL đã được thử nghiệm: mỗi loại loại bỏ, khôi phục, kích hoạt, đặt lại danh tính, tốc độ và Postgre…

Đọc bài viết →
Cơ sở dữ liệu & SQL

Giải thích về Chế độ xem SQL: Tạo, sử dụng và tránh những cạm bẫy, kèm theo ví dụ

Chế độ xem SQL được giải thích bằng các truy vấn chúng tôi đã chạy: tạo chế độ xem, kết quả trực tiếp, ẩn cột, hiệu suất, chế độ xem có thể cập nhật…

Đọc bài viết →
Phát triển phần mềm

Giao diện TypeScript so với loại: Sự khác biệt thực sự, được thử nghiệm bằng trình biên dịch

Giao diện TypeScript so với loại, được kiểm tra bằng trình biên dịch thực: cả hai có thể làm gì, chỉ một người có thể làm gì, hợp nhất khai báo, mở …

Đọc bài viết →
Phát triển phần mềm

Giải thích về Python *args và **kwargs: Hàm linh hoạt với ví dụ rõ ràng

Python *args và **kwargs được giải thích bằng mã chúng tôi đã chạy: đóng gói và giải nén, thứ tự tham số, đối số chỉ từ khóa và chỉ vị trí, trình tr…

Đọc bài viết →
Phát triển phần mềm

Hàm Lambda của Python: Cú pháp, cách sử dụng thực tế và khi nào không nên sử dụng chúng

Các hàm lambda của Python được giải thích bằng mã chúng tôi đã chạy: cú pháp, sắp xếp bằng khóa, bản đồ và bộ lọc, các phần đóng, bẫy liên kết muộn …

Đọc bài viết →
Trí tuệ nhân tạo

Đại lý AI là gì? Cách chúng hoạt động, với vòng lặp tác nhân đơn giản, bạn có thể chạy

Tác nhân AI là gì? Hướng dẫn đơn giản về vòng lặp tác nhân, công cụ, bộ nhớ và lan can, với một vòng lặp Python nhỏ mà chúng tôi đã chạy, những rủi …

Đọc bài viết →
DevOps

Giám sát và Khả năng quan sát: Sự khác biệt thực sự, với nhật ký, số liệu và dấu vết

Giải thích về giám sát và khả năng quan sát: lỗi đã biết và chưa biết, nhật ký, số liệu và dấu vết, hướng dẫn về sự cố thanh toán, tín hiệu vàng, Op…

Đọc bài viết →
DevOps

Docker Volumes vs Bind Mounts: Duy trì dữ liệu vùng chứa đúng cách

Giải thích về khối lượng Docker và liên kết gắn kết: tại sao dữ liệu vùng chứa biến mất, khối lượng được đặt tên, liên kết gắn kết, tmpfs, ví dụ về …

Đọc bài viết →
Tự động hóa kiểm thử

TDD vs BDD: Key Differences, One Feature Built Both Ways and When to Use Each

TDD và BDD được giải thích bằng một tính năng giảm giá được xây dựng theo cả hai cách: tái cấu trúc màu đỏ-xanh với mã chúng tôi đã chạy, kịch bản C…

Đọc bài viết →
Kiểm thử phần mềm

Kiểm tra chấp nhận của người dùng (UAT): Quy trình, danh sách kiểm tra và ví dụ thực tế

Giải thích về thử nghiệm chấp nhận của người dùng: ai chạy nó, nó khác với QA như thế nào, quy trình bảy bước, mẫu trường hợp thử nghiệm UAT, danh s…

Đọc bài viết →
Cơ sở dữ liệu & SQL

Giải thích về các giá trị NULL của SQL: IS NULL, COALESCE, NULLIF và những cái bẫy cần tránh

Các giá trị SQL NULL được giải thích bằng các truy vấn chúng tôi đã chạy: logic ba giá trị, IS NULL, COALESCE, NULLIF, cách tổng hợp, kết hợp và sắp…

Đọc bài viết →
Cơ sở dữ liệu & SQL

Câu lệnh SQL CASE WHEN: Cú pháp, ví dụ thực tế và các lỗi thường gặp

TRƯỜNG HỢP SQL KHI được giải thích bằng các truy vấn mà chúng tôi đã chạy: các biểu mẫu đơn giản và được tìm kiếm, thứ tự điều kiện, các thủ thuật S…

Đọc bài viết →
Phát triển phần mềm

JWT là gì? Mã thông báo Web JSON được giải thích bằng một ví dụ hoạt động

JWT là gì? Mã thông báo Web JSON đã giải thích: ba phần, mã thông báo được xây dựng và giả mạo trong mã chúng tôi đã chạy, JWT so với phiên, lưu trữ…

Đọc bài viết →
Phát triển phần mềm

Giải thích về vòng lặp sự kiện JavaScript: Ngăn xếp cuộc gọi, Microtask và bộ hẹn giờ kèm ví dụ

Vòng lặp sự kiện JavaScript được giải thích bằng mã chúng tôi đã chạy: ngăn xếp cuộc gọi, hàng đợi tác vụ và vi nhiệm, tại sao setTimeout 0 không di…

Đọc bài viết →
Phát triển phần mềm

Giải thích về trình tạo và năng suất của Python: Tiết kiệm bộ nhớ bằng các ví dụ thực tế

Trình tạo và lợi nhuận Python được giải thích bằng mã chúng tôi đã chạy: cách chúng tạm dừng và tiếp tục, đo mức tiết kiệm bộ nhớ, quy trình, chuỗi …

Đọc bài viết →
Trí tuệ nhân tạo

Nhúng là gì? Giải thích sự tương đồng về vectơ và Cosine một cách đơn giản

nhúng là gì? Hướng dẫn bằng ngôn ngữ đơn giản về vectơ, độ tương tự cosine và tìm kiếm ngữ nghĩa, với một ví dụ nhỏ mà chúng tôi đã chạy, các cách s…

Đọc bài viết →
DevOps

Triển khai Blue-Green và Canary: Sự khác biệt, sự đánh đổi và cách lựa chọn

Giải thích về triển khai Blue-green và Canary: cách hoạt động của từng loại, chi phí, rủi ro và khôi phục, nhóm người dùng ổn định mà chúng tôi đã t…

Đọc bài viết →
Tự động hóa kiểm thử

Kiểm tra không ổn định: Nguyên nhân gây ra chúng và cách khắc phục chúng vĩnh viễn

Các thử nghiệm không ổn định được giải thích bằng các bản demo mà chúng tôi đã chạy: nguyên nhân chính, cách xác nhận và chẩn đoán nguyên nhân, cách…

Đọc bài viết →
Kiểm thử phần mềm

Kiểm tra tải và kiểm tra căng thẳng: Sự khác biệt, số liệu và ví dụ về k6

Giải thích về thử nghiệm tải và thử nghiệm căng thẳng: mỗi thử nghiệm chứng minh điều gì, thử nghiệm tăng đột biến và ngâm, số liệu quan trọng, lý d…

Đọc bài viết →
Kiểm thử phần mềm

Trường hợp thử nghiệm và kịch bản thử nghiệm: Sự khác biệt chính, ví dụ và thời điểm sử dụng từng trường hợp

Giải thích trường hợp kiểm thử và kịch bản kiểm thử: định nghĩa rõ ràng, bảng cạnh nhau, một tính năng đặt lại mật khẩu được lấy từ các tình huống n…

Đọc bài viết →
Cơ sở dữ liệu & SQL

Tối ưu hóa truy vấn SQL: Đọc kế hoạch thực thi và sửa các truy vấn chậm, có tính thời gian

Đã thử nghiệm tối ưu hóa truy vấn SQL trên một triệu hàng: đọc kế hoạch thực hiện, thêm chỉ mục phù hợp, sửa các bộ lọc không thể mở rộng, sử dụng c…

Đọc bài viết →
Cơ sở dữ liệu & SQL

SQL UNION và UNION ALL: Sự khác biệt, ví dụ và hiệu suất đã được kiểm tra

SQL UNION và UNION ALL được giải thích bằng các truy vấn chúng tôi đã chạy: trùng lặp, cả hai quy tắc đều tuân theo, lỗi dữ liệu thực, hiệu suất đượ…

Đọc bài viết →
Phát triển phần mềm

Hướng dẫn API tìm nạp JavaScript: GET, POST, Xử lý lỗi và hết thời gian chờ

Hướng dẫn API tìm nạp JavaScript đã được thử nghiệm trên máy chủ cục bộ: GET và POST, tại sao 404 không gửi, trình trợ giúp có thể sử dụng lại, chuỗ…

Đọc bài viết →
Phát triển phần mềm

Xử lý tệp Python: Đọc, ghi, CSV, JSON và pathlib kèm ví dụ

Việc xử lý tệp Python được giải thích bằng mã chúng tôi đã chạy: chế độ mở, với, đọc tệp lớn, CSV, JSON, pathlib, tệp nhị phân, ghi an toàn, xử lý l…

Đọc bài viết →
Phát triển phần mềm

Các lớp và đối tượng Python: Hướng dẫn OOP với các ví dụ thực tế

Các lớp và đối tượng Python được giải thích bằng mã mà chúng tôi đã chạy: __init__, các phương thức, thuộc tính lớp và phiên bản, tính kế thừa, thuộ…

Đọc bài viết →
Trí tuệ nhân tạo

Mô hình ngôn ngữ lớn là gì? LLM hoạt động như thế nào, được giải thích mà không cường điệu hóa

Mô hình ngôn ngữ lớn là gì? LLM được giải thích bằng ngôn ngữ đơn giản: mã thông báo, phần nhúng, sự chú ý, đào tạo, cửa sổ nhiệt độ và ngữ cảnh, mộ…

Đọc bài viết →
DevOps

Các lệnh Linux cho người mới bắt đầu: Hướng dẫn thiết bị đầu cuối cần thiết kèm ví dụ

Các lệnh Linux dành cho người mới bắt đầu, được nhóm theo tác vụ: điều hướng, tệp, xem nhật ký, grep, đường dẫn, quyền, quy trình và lưu trữ, cùng v…

Đọc bài viết →
Tự động hóa kiểm thử

Selenium vs Nhà viết kịch: Sự khác biệt chính, So sánh mã và nên chọn cái nào

Selenium và Playwright được so sánh: kiến trúc, chờ đợi, hỗ trợ trình duyệt và ngôn ngữ, gỡ lỗi, kiểm tra giống nhau ở cả hai công cụ, lời khuyên di…

Đọc bài viết →
Kiểm thử phần mềm

Phân vùng tương đương: Giải thích kỹ thuật thiết kế thử nghiệm bằng các ví dụ đã thực hiện

Giải thích về phân vùng tương đương: cách tìm các phân vùng hợp lệ và không hợp lệ, các ví dụ hoạt động theo độ tuổi, mật khẩu và phiếu giảm giá, cá…

Đọc bài viết →
Kiểm thử phần mềm

Mức độ nghiêm trọng và mức độ ưu tiên trong kiểm thử phần mềm: Sự khác biệt, Ma trận và ví dụ thực tế

Giải thích về mức độ nghiêm trọng và mức độ ưu tiên trong kiểm thử phần mềm: định nghĩa rõ ràng, ma trận bốn chiều với các ví dụ, thang đo cấp độ, a…

Đọc bài viết →
Cơ sở dữ liệu & SQL

Hướng dẫn về truy vấn con SQL: Các loại, truy vấn con tương quan và TỒN TẠI kèm ví dụ

Hướng dẫn về truy vấn con SQL với các truy vấn chúng tôi đã chạy: truy vấn con vô hướng, IN, FROM và SELECT, truy vấn con tương quan, EXISTS, bẫy và…

Đọc bài viết →
Cơ sở dữ liệu & SQL

Giải thích về giao dịch SQL và ACID: Các mức CAM KẾT, ROLLBACK và Cô lập

Các giao dịch SQL và ACID được giải thích bằng chuyển khoản ngân hàng mà chúng tôi đã thực hiện: CAM KẾT, ROLLBACK, điểm lưu trữ, khóa, mức cách ly,…

Đọc bài viết →
Phát triển phần mềm

Bảng cheat lệnh Git: Các lệnh bạn thực sự sử dụng, kèm theo ví dụ

Một bảng ghi lệnh Git được nhóm theo nhiệm vụ: thiết lập, dàn dựng, nhánh, điều khiển từ xa, lưu trữ, lịch sử và hoàn tác các lỗi, với đầu ra từ kho…

Đọc bài viết →
Phát triển phần mềm

Giải thích về các lời hứa trong JavaScript: then, Catch, Promise.all và các lỗi thường gặp

Lời hứa JavaScript được giải thích bằng mã chúng tôi đã chạy: trạng thái, then và chuỗi bắt, xử lý lỗi, Promise.all, allSettled, chủng tộc và bất kỳ…

Đọc bài viết →
Phát triển phần mềm

Hướng dẫn từ điển Python: Phương thức, ví dụ và mẫu chung

Hướng dẫn từ điển Python với mã chúng tôi đã chạy: tạo, đọc và cập nhật các ký tự, các phương thức chính, hợp nhất, hiểu, đếm và nhóm các mẫu cũng n…

Đọc bài viết →
Trí tuệ nhân tạo

RAG là gì? Giải thích về thế hệ tăng cường truy xuất bằng một ví dụ hoạt động

RAG là gì? Thế hệ tăng cường truy xuất được giải thích từng bước: lập chỉ mục, phân nhóm, nhúng, truy xuất, một ví dụ Python hoạt động nhỏ, đánh giá…

Đọc bài viết →
DevOps

Hướng dẫn về Terraform cho người mới bắt đầu: Cơ sở hạ tầng dưới dạng mã từ tệp đầu tiên đến mô-đun

Hướng dẫn về Terraform dành cho người mới bắt đầu: bắt đầu không cần tài khoản đám mây, tìm hiểu về init, lập kế hoạch và áp dụng, sau đó là các biế…

Đọc bài viết →
DevOps

Docker vs Kubernetes: Key Differences, How They Work Together and Which You Need

Docker vs Kubernetes giải thích: mỗi cái làm gì, cùng một ứng dụng chạy với cả hai, so sánh Docker Compose và Swarm, sự thay đổi của dockershim và c…

Đọc bài viết →
Tự động hóa kiểm thử

Hướng dẫn Pytest cho người mới bắt đầu: Đồ đạc, tham số hóa và ví dụ thực tế

Hướng dẫn về pytest dành cho người mới bắt đầu với các bài kiểm tra chúng tôi đã chạy trên pytest 9.2: xác nhận, đồ đạc, tham số, conftest, điểm đán…

Đọc bài viết →
Kiểm thử phần mềm

Vòng đời kiểm thử phần mềm (STLC): 6 giai đoạn, tiêu chí đầu vào và đầu ra, ví dụ

Vòng đời kiểm thử phần mềm giải thích: sáu giai đoạn STLC với tiêu chí đầu vào và đầu ra, sản phẩm phân phối, ví dụ về tính năng đăng nhập hoạt động…

Đọc bài viết →
Phát triển phần mềm

Git merge vs rebase: khác biệt, ví dụ và khi nào dùng cái nào

Git merge vs rebase được giải thích bằng đầu ra log thực tế, bảng so sánh, quy tắc vàng của rebase và quy trình làm việc nhóm an toàn.

Đọc bài viết →
Phát triển phần mềm

List comprehension trong Python: cú pháp, ví dụ và khi nào nên tránh

List comprehension trong Python: cú pháp, lọc dữ liệu, if-else, vòng lặp lồng nhau, thời gian đo thực tế và khi nào vòng lặp for thông thường tốt hơn.

Đọc bài viết →
Cơ sở dữ liệu & SQL

Giải thích SQL JOIN kèm ví dụ (Inner, Left, Right, Full)

Hiểu SQL JOIN từng bước với bảng và truy vấn mẫu: INNER, LEFT, RIGHT, FULL, CROSS và SELF, cùng lỗi thường gặp và mẹo hiệu năng.

Đọc bài viết →