Theo Tờ trình dự án Luật Tổ chức cơ quan điều tra hình sự của Chính phủ, triển khai thực hiện Pháp lệnh Tổ chức điều tra hình sự năm 2004, cơ quan điều tra đã được tổ chức tập trung, thống nhất và chuyên sâu, qua đó phát hiện, điều tra, xử lý có hiệu quả với từng loại tội phạm. Việc tổ chức cơ quan điều tra trong công an nhân dân, quân đội nhân dân theo Pháp lệnh năm 2004 cũng tạo điều kiện thuận lợi cho Viện Kiểm sát thực hiện chức năng kiểm sát hoạt động tư pháp ngay từ khi tiếp nhận, giải quyết tố giác, tin báo tội phạm, kiến nghị khởi tố đến khi kết thúc điều tra. Tuy nhiên, Pháp lệnh hiện hành có nhiều quy định chung chung nên khi thực hiện phải có nhiều văn bản hướng dẫn; một số quy định về thẩm quyền điều tra, quan hệ phối hợp trong hoạt động điều tra, quan hệ giữa cơ quan điều tra và Viện kiểm sát chưa cụ thể.
Tán thành với việc xây dựng dự án Luật Tổ chức cơ quan điều tra hình sự, song các đại biểu nhấn mạnh, dự án Luật phải phù hợp với Hiến pháp năm 2013, thống nhất với các luật về tổ chức bộ máy các cơ quan tư pháp, pháp luật chuyên ngành có liên quan. Đồng thời, được xây dựng trên cơ sở tổng kết đầy đủ việc thi hành Pháp lệnh Tổ chức điều tra hình sự hiện hành, thể chế hóa đầy đủ, nghiêm túc các chủ trương của Đảng về cải cách tư pháp. Với đề xuất của Chính phủ về việc bổ sung thẩm quyền tiến hành một số hoạt động điều tra cho lực lượng kiểm ngư, cơ quan thuế, Ủy ban Chứng khoán Nhà nước, một số ý kiến cho rằng, đề xuất này sẽ giúp huy động sức mạnh tổng hợp tham gia đấu tranh, phòng, chống tội phạm, nhất là ở những lĩnh vực đặc thù, giúp cơ quan điều tra rút ngắn thời gian khởi tố vụ án, giảm tải ở cơ quan điều tra chuyên trách. Tuy nhiên, các ý kiến này cũng đề nghị cơ quan chủ trì soạn thảo cần giải trình thuyết phục hơn về đề xuất nêu trên, đồng thời, xác định rõ nguyên tắc, tiêu chí thành lập cơ quan được giao tiến hành một số hoạt động điều tra. Ngoài ra, một số đại biểu cũng nhấn mạnh, sau khi Tòa án nhân dân cấp huyện hiện được tăng thẩm quyền, thì về lý thẩm quyền của cơ quan điều tra cấp huyện cũng phải tăng lên, còn cấp tỉnh, cấp bộ phải giảm đi và mô hình tổ chức phải thay đổi tương ứng. Tuy nhiên, dự thảo Luật đã không thể hiện được yêu cầu này, mà có xu hướng theo chiều ngược lại. Vì vậy, cơ quan chủ trì soạn thảo cần báo cáo, giải trình rõ hơn lý do chọn mô hình tổ chức cơ quan điều tra hình sự như vậy.