Phần mở đầu Công ước Vienna 1961 có đoạn viết "Các quốc gia tham gia Công ước này nhận thức rằng mục đích của các quyền ưu đãi và miễn trừ không phải để làm lợi cho cá nhân mà để bảo đảm cho các Cơ quan đại diện ngoại giao thực hiện có hiệu quả các chức năng của họ, với tư cách họ là đại diện của quốc gia".
Như vậy, cơ sở của đặc quyền ưu đãi và miễn trừ ngoại giao vừa là sự cần thiết bảo đảm một cách có hiệu quả sự hoạt động của các Cơ quan ngoại giao, vừa là sự cần thiết phải đảm báo tính chất đại diện quốc gia của các cơ quan đó. Tất nhiên, quan niệm sự cần thiết phải bảo đảm sự hoạt động có hiệu quả của Cơ quan ngoại giao là điều xuất phát để thừa nhận những đặc quyền ưu đãi, miễn trừ ngoại giao nhưng quan niệm này không nói lên một cách đầy đủ tính chất đặc biệt của Cơ quan ngoại giao là một cơ quan Nhà nước của một quốc gia ở nước ngoài để tiến hành công tác trong lĩnh vực đối ngoại, vì vậy cần phải nêu bật tính chất đại diện của Cơ quan đại diện ngoại giao.
Công ước Vienna 1961 đã dành 12 Điều (từ Điều 29 đến Điều 41) để quy định về đặc quyền ưu đãi miễn trừ ngoại giao, tập trung vào 3 nội dung chính:
- Quyền bất khả xâm phạm (về con người, về trụ sở, tài liệu...);
- Quyền không bị xét xử (về hình sự, dân sự);
- Các ưu đãi về xã giao.
Những đặc quyền rộng rãi nhất được dành cho các viên chức ngoại giao và thành viên gia đình họ. Nhiều đặc quyền cũng được dành cho nhân viên hành chính, kỹ thuật và thành viên gia đình họ, có phân biệt ở chỗ quyền miễn trừ xét xử về dân sự và hành chính (đối với luật pháp nước tiếp nhận) chỉ được áp dụng cho những trường hợp họ thừa hành công vụ. Thực tế những năm gần đây chứng minh sự phân biệt đó cũng đang dần dần được xóa bỏ.