Muốn làm cách mạng kỹ thuật phải phát triển khoa học để làm cơ sở, do đó cũng ngay trong năm 1960 Chính phủ đã mời một đoàn khoa học cao cấp của Liên Xô sang thăm Việt Nam để góp ý kiến với nhà nước ta về đường lối phát triển khoa học Việt Nam. Đoàn đại biểu khoa học Liên Xô do Viện sĩ Alexandr Kotelnikov, Ủy viên Đoàn chủ tịch Viện Hàn lâm khoa học Liên Xô (sau này trở thành Phó Chủ tịch Viện Hàn lâm khoa học Liên Xô) sang thăm Việt Nam đã đề xuất với Chính phủ kiến nghị thành lập các đơn vị nghiên cứu cơ bản trong Ủy ban Khoa học Nhà nước, đến khi có đủ lực lượng thì tách ra để trở thành Viện Hàn lâm khoa học Việt Nam có chức năng, nhiệm vụ tương tự như các Viện Hàn lâm khoa học các nước xã hội chủ nghĩa thời đó. Kiến nghị đó đã được Chính phủ ta tiếp thu. Năm 1961, Chính phủ đã cử đoàn đại biểu khoa học Việt Nam do giáo sư Tạ Quang Bửu, Phó Chủ nhiệm kiêm Tổng Thư ký Ủy ban Khoa học Nhà nước, dẫn đầu sang đàm phán và ký kết với Viện Hàn lâm khoa học Liên Xô Hiệp định hợp tác khoa học Liên Xô-Việt Nam với nội dung chủ yếu là Liên Xô giúp đỡ Việt Nam đào tạo cán bộ nghiên cứu khoa học và xây dựng cơ sở vật chất kỹ thuật để thành lập các đơn vị nghiên cứu cơ bản, tiến tới thành lập Viện Hàn lâm khoa học Việt Nam. Việc thực hiện Hiệp định đã được triển khai ngay từ năm 1962. Từ năm 1964 sau khi xảy ra chiến tranh phá hoại của Mỹ, công việc tuy có bị chậm lại song vẫn được tiến hành, hai viện nghiên cứu cơ bản đầu tiên được thành lập là Viện nghiên cứu Khoa học tự nhiên ở Hà Nội và Viện nghiên cứu Biển ở Hải Phòng.

Với dự đoán rằng Mỹ sẽ sớm phải xuống thang chiến tranh và ngừng ném bom miền Bắc, năm 1967 Chính phủ đã cử một đoàn đại biểu khoa học kỹ thuật do Viện sĩ Trần Đại Nghĩa, Chủ nhiệm, và đồng chí Trần Quỳnh, Bí thư Đảng Đoàn, Phó Chủ nhiệm Ủy ban Khoa học và Kỹ thuật Nhà nước, sang Liên Xô tham khảo ý kiến của Ủy ban Khoa học và Kỹ thuật Nhà nước và Viện Hàn lâm khoa học Liên Xô để xây dựng quy hoạch tổng thể phát triển khoa học và kỹ thuật Việt Nam sau khi chấm dứt chiến tranh phá hoại của Mỹ. Trong khuôn khổ quy hoạch tổng thể đó có kế hoạch lần lượt thành lập các đơn vị nghiên cứu cơ bản trực thuộc Ủy ban Khoa học và Kỹ thuật Nhà nước, đến khi có đủ lực lượng sẽ tách ra thành Viện Hàn lâm khoa học Việt Nam. Thực hiện kế hoạch này, đầu năm 1969 Thủ tướng Chính phủ quyết định thành lập Viện Toán học và Viện Vật lý, và sau đó Ủy ban Khoa học và Kỹ thuật Nhà nước quyết định thành lập Phòng Máy tính điện tử và Phòng Cơ học trực thuộc Ủy ban, thành lập Phòng Hóa học các hợp chất thiên nhiên tạm thời đặt trong Viện Vật lý nhưng được hoạt động đặc cách theo một cơ chế tự chủ. Đến năm 1971, khi đã đủ mạnh, Phòng Hóa học các hợp chất thiên nhiên được tách ra khỏi Viện Vật lý và trở thành trực thuộc Ủy ban. Cũng trong năm đó, Viện nghiên cứu Khoa học tự nhiên được tách ra thành các phòng nghiên cứu Động vật, Thực vật, Vi sinh vật, Địa lý, Địa chất, Vật lý địa cầu và Kỹ thuật nhiệt đới, tất cả đều trực thuộc Ủy ban, để chuẩn bị cho việc thành lập các viện nghiên cứu về Sinh vật học, Các khoa học về Trái đất và Kỹ thuật nhiệt đới. Năm 1974 thành lập thêm Phòng Hóa dầu và Xúc tác trực thuộc Ủy ban. Từ thời kỳ đó, một Trung tâm nghiên cứu khoa học quốc gia khá đồng bộ và hoàn chỉnh đã được hình thành trong Ủy ban Khoa học và Kỹ thuật Nhà nước và hoạt động có nền nếp theo một cơ chế tự chủ và tự chịu trách nhiệm hoàn toàn, do lãnh đạo Ủy ban Khoa học và Kỹ thuật Nhà nước trực tiếp quản lý.

Ngay sau khi miền Nam được giải phóng, ngày 2 tháng 5 năm 1975 Ủy ban Khoa học và Kỹ thuật Nhà nước nhận được chỉ thị của Thủ tướng Phạm Văn Đồng về việc gửi lên Chính phủ Tờ trình xin thành lập một Trung tâm nghiên cứu khoa học quốc gia trực thuộc Chính phủ trên cơ sở các viện khoa học và phòng nghiên cứu trực thuộc tách ra từ Ủy ban Khoa học và Kỹ thuật Nhà nước. Vào thời điểm đó Thủ tướng tạm đặt tên cho Trung tâm nghiên cứu khoa học quốc gia là Viện Khoa học Việt Nam với dụng ý: sau này khi đã lớn mạnh và xứng đáng được gọi là Viện Hàn lâm khoa học Việt Nam thì sẽ thêm hai chữ "Hàn lâm" vào tên gọi của Viện. Ngày 20 tháng 5 năm 1975 Thủ tướng Phạm Văn Đồng đã ký Nghị định thành lập Viện Khoa học Việt Nam. Sau đó chưa đầy hai tháng, ngày 4 tháng 7 năm 1975, đồng chí Phạm Hùng, Bí thư Trung ương Cục miền Nam ký tiếp quyết định thành lập Viện Khoa học và Kỹ thuật B2 trực thuộc Trung ương Cục miền Nam. Năm 1976, sau khi Quốc hội khóa VI tuyên bố thống nhất đất nước, Viện Khoa học và Kỹ thuật B2 được sáp nhập vào Viện Khoa học Việt Nam và trở thành Phân Viện Khoa học Việt Nam tại Thành phố Hồ Chí Minh.

Gần 20 năm sau, trong tiến trình đổi mới nền kinh tế của đất nước và xét thấy ngoài nhiệm vụ trụ cột nền khoa học cơ bản của nước nhà, Viện Khoa học Việt Nam còn phải đi tiên phong và đóng vai trò trụ cột trong sự nghiệp xây dựng và phát triển một số lĩnh vực công nghệ cao mới ra đời trên cơ sở các thành tựu hiện đại của khoa học tự nhiên như Công nghệ thông tin, Công nghệ sinh học, Công nghệ vật liệu mới, Chính phủ đã quyết định mở rộng thêm lĩnh vực hoạt động khoa học công nghệ của Viện Khoa học Việt Nam và tái cấu trúc Viện thành Trung tâm Khoa học tự nhiên và Công nghệ Quốc gia, sau này đổi tên là Viện Khoa học và Công nghệ Việt Nam.

Đến nay, sau nửa thế kỷ xây dựng và phát triển, Viện Khoa học và Công nghệ Việt Nam đã lớn mạnh về mọi mặt và thực sự đã trở thành trụ cột nền khoa học tự nhiên và công nghệ cao của nước nhà, tên gọi của Viện vừa được bổ sung thêm hai chữ "Hàn lâm", như Thủ tướng Phạm Văn Đồng đã dự kiến từ năm 1975. Lịch sử khoa học Việt Nam bắt đầu một thời kỳ vẻ vang mới đầy triển vọng.

Một số hình ảnh trong quá trình phát triển của Viện Hàn lâm Khoa học và Công nghệ Việt Nam:

Thủ tướng Phạm Văn Đồng với lãnh đạo Viện KHVN

Viện tiếp đoàn khách quốc tế

Thủ tướng Nguyễn Tấn Dũng phát biểu tại Hội nghị Tổng kết công tác năm 2009 của Viện KH&CN Việt Nam