Sau sự ra đời của trường Collège Chasseloup-Laubat (năm 1874) và trường Collège de Jeunes Filles Indigèges (1915), chính quyền thuộc địa Nam Kỳ mở thêm trường bậc trung học thứ 3 tại Sài Gòn.
Năm 1925, kiến trúc sư Hebrard de Villeneuve được giao nhiệm vụ vẽ đồ họa xây cất cho ngôi trường mới tại Chợ Quán.
Ngày 28 tháng 11 năm 1927, Toàn quyền Đông Dương Alexandre Varenne ra nghị định thiết lập tại Chợ Quán một phân hiệu tạm thời của Collège Chasseloup Laubat dành cho học sinh người bản xứ lấy tên là Collège de Cochinchine. Phân hiệu này được đặt dưới sự điều hành của Ban Giám đốc Trường Chasseloup Laubat và một giáo sư phụ trách tổng giám thị của phân hiệu.
Năm 1928, khi các khu trường mới xây dựng xong, ngày 11 tháng 8 năm 1928, Toàn quyền Đông Dương tạm quyền René Robin ký nghị định số 3116 gồm 6 điều thành lập tại Chợ Quán, kể từ kỳ tựu trường 1928-1929 một trường Cao đẳng Tiểu học Pháp bản xứ, chuyển giao phân hiệu tạm thời với trên 200 học sinh của Collège Chasseloup Laubat nói trên vào trường này, có sát nhập một hệ Trung học Đệ nhị cấp bản xứ (Lycée). Nhân dịp khánh thành tượng đồng của nhà bác học Petrus Trương Vĩnh Ký, Thống đốc Nam Kỳ Blanchard de la Brosse chính thức đặt tên trường là Lycée Pétrus Trương Vĩnh Ký. Do đó, trường còn có tên gọi là Petrus Ký, và tên này được sử dụng trong gần 50 năm.
Thời Pháp thuộc
Năm 1940, Câu lạc bộ học sinh trường Pétrus Ký được thành lập. Câu lạc bộ đã tổ chức các hoạt động như văn nghệ, thể thao, cắm trại, với những sinh hoạt rất phong phú, tập hợp được đông đảo học sinh của trường và nhiều trường khác. Cũng tại đây, Lưu Hữu Phước và Mai Văn Bộ viết bài hát La Marche des Étudiants, tiền thân của bài Tiếng gọi thanh niên và Tiếng gọi Công dân, Quốc ca của Việt Nam Cộng hòa.
Chỉ sau 1 năm, phong trào bị chính quyền thực dân cấm hoạt động do tuyên truyền các hoạt động yêu nước. Đến năm 1942, học sinh Pétrus Ký theo phong trào của học sinh sinh viên Hà Nội tập hợp nhau lấy tên là đoàn S.E.T (Section Exécution Tourisme). Đoàn S.E.T tổ chức theo kiểu hướng đạo, giáo dục lý tưởng sống lành mạnh, yêu nước, yêu dân tộc đang bị ngoại xâm thống trị và từ ý thức này gợi đến ý thức chống Đế quốc. Trong thời gian này, tại trường cũng có một số giáo sư âm thầm biểu lộ tình cảm yêu nước của mình qua tác phong bài giảng như Phạm Thiều, Lê Văn Chí, Trần Văn Thanh.
Năm 1942, trường di chuyển về trường sở Sư phạm Sài Gòn vì chiến cuộc nhưng không lâu sau lại mở cửa dạy học vào năm ấy tại trường sở cũ. Nhưng đến năm 1945, trường sở bị trưng dụng làm doanh trại của quân đội Nhật. Trường phải dời về khu tiểu học Tân Định và sau đó ngưng hoạt động.
Ngày 1 tháng 4 năm 1946, sau khi Pháp tái chiếm Nam Bộ, trường mở cửa dạy lại trong Chủng viện đường Lucien Mossard và đến năm 1947, trở lại hoạt động nơi trường sở hiện tại.
Từ năm 1948, học sinh trường Pétrus Ký mở đầu phong trào đấu tranh đòi “Dạy và Học bằng Tiếng Việt”, bãi bỏ chế độ thi hà khắc, chống khủng bố kiềm kẹp học sinh. Trong ngày tựu trường 10 tháng 9 năm 1949, học sinh các trường kết hợp với trí thức và cha mẹ học sinh đưa yêu sách yêu cầu Bộ giáo dục giải quyết ngay và tiến hành bãi khóa kéo dài 1 tháng. Chính quyền thực dân Pháp đàn áp và bắt bớ. Giám đốc Nha học chính Nam phần ra lệnh đóng cửa hai trường Pétrus Ký và Gia Long, sau đó ra lệnh cho học sinh làm đơn xin đi học lại. Học sinh vẫn tiếp tục đấu tranh với 3 yêu sách:
• Lập tức thả ngay những học sinh bị bắt.
• Bảo đảm an ninh cho học sinh, không được khủng bố, bắt bớ vô cớ.
• Mở các trường vô điều kiện, không phải làm đơn xin học lại.
Ngày 9 tháng 1 năm 1950, hơn 2.000 học sinh trường Pétrus Ký, Áo tím Gia Long, Kỹ thuật… kéo đến trụ sở Nha học chính biểu tình, đưa yêu sách đòi thả các học sinh bị bắt. Sau đó, đoàn biểu tình kéo đến dinh Thủ hiến Nam phần. Chính quyền thực dân ra lệnh giải tán, đàn áp đoàn biểu tình dữ dội. Lúc này đoàn biểu tình đã lên đến 50.000 người đã chống trả mãnh liệt. Cảnh sát nổ súng bắn vào đoàn biểu tình. Học sinh Trần Văn Ơn, của trường Pétrus Ký, bị tử thương. Ban đấu tranh của học sinh tổ chức bảo vệ xác Trần Văn Ơn ở bệnh viện Chợ Rẫy và sau đó tổ chức lễ tang trọng thể tại trường.
Ngày 12 tháng 1 năm 1950, toàn thành phố đình công bãi thị, tham dự đám tang Trần Văn Ơn. Học sinh các trường trung học Mỹ Tho, Cần Thơ, Huế, Hà Nội kéo về Sài Gòn tham dự. Hầu như toàn bộ học sinh các trường đều có mặt tại trường Pétrus Ký mang theo khẩu hiệu ghi tên, trường và khẩu hiệu phản đối chính quyền. Hơn 1 triệu người xuống đường đưa đám tang. Đây là đám tang lớn nhất Sài Gòn, kể từ sau đám tang của cụ Phan Chu Trinh năm 1925.
Năm 1951 Ông Phạm Văn Còn, một viên chức cao cấp của xã Tây, được ân thưởng Légion d’honneur cấp officier, được cử làm Hiệu Trưởng của trường thay thế Thầy Lê Văn Kiêm. Ngoài công ơn đem trật tự cho trường Ông Phạm Văn Còn chỉnh trang trường sở như xây dựng cổng trường, dựng hàng rào gạch thay thế hàng rào bông bụp ở trước trường, xây nhà để xe đạp cho học sinh.
Cũng vào năm 1951 Thầy Ưng Thiều, giáo sư Hán văn, trong buổi học về thơ Đường, thầy có làm bài thơ tứ tuyệt sau đây:
Trường tôi ở tại lối Nancy,
Trung học đường kia có bảng ghi.
Mượn hiệu người xưa Trương Vĩnh Ký,
Lẫy lừng danh tiếng đã bao thì.
Thầy Ưng Thiều còn đặt hai câu đối để chỉ rõ đạo đức học tập và trí dục cho học sinh, được Ông Hiệu Trưởng Phạm Văn Còn chọn khắc trước cổng trường như sau:
Khổng Mạnh cương thường tu khắc cốt
Tâu Âu khoa học yếu minh tâm
Thời VNCH
Sau hiệp định Genève từ tháng 5 năm 1954 trường Pétrus Ký bị trưng dụng cho di dân miền Bắc đến tạm trú. Đến tháng 10 năm 1954 trường mới được trả lại để khai giảng năm học mới và bắt đầu học chương trình Việt từ lớp đệ thất, các lớp học theo chương trình Pháp trước đây vẫn tiếp tục học theo cuốn chiếu và kỳ thi Tú Tài I và Tú Tài toàn phần Pháp vẫn tồn tại đến năm 1960. Bên cạnh trường Petrus Ký ở trong sân vận động Lam sơn, một dãy nhà tre lá cất tạm cho học sinh trường Chu Văn An ở Hà Nội chuyển vào học.
Ngày 30 tháng 3 năm 1955, xung đột giữa quân chính phủ và lực lượng Bình Xuyên nổ ra. Công an xung phong của Bình Xuyên vào đóng tại trường Pétrus Ký. Đến ngày 30 tháng 4 năm 1955, quân chính phủ đánh bật được quân Bình Xuyên ra khỏi trường Pétrus Ký và các điểm khác.
Năm 1961, trường được hợp thức hóa để trở thành trường Trung Học Đệ Nhị Cấp theo hệ thống giáo dục Việt Nam Cộng hòa.
Năm 1970, học sinh trường tổ chức từ bãi khóa đến xuống đường tham gia biểu tình, đánh chiếm tòa đại sứ Campuchia, phản đối hành động Lon Nol tàn sát Việt Kiều ở Campuchia. Đêm 5 tháng 9 năm 1970, học sinh Pétrus Ký cùng học sinh sinh viên các trường tổ chức đêm không ngủ của phong trào đấu tranh đòi tự do dân chủ ở miền Nam.
Năm 1972, Nguyễn Thái Bình, cựu học sinh Pétrus Ký, du học ở Mỹ đã công khai công kích chính quyền Mỹ trên diễn đàn nước Mỹ. Chính phủ Mỹ đã trục xuất anh khỏi nước Mỹ, và khi về đến Việt Nam, Nguyễn Thái Bình đã bị bắn chết trong “vụ án không tặc Nguyễn Thái Bình”.
Sau 1975
Ngày 30 tháng 4 năm 1975, sau khi Quân Giải phóng miền Nam tiến vào Sài Gòn, đã đặt trụ sở Ban quân quản thành phố, do tướng Trần Văn Trà đứng đầu, tại trường sở. Trường Trung Học Pétrus Ký tạm thời đóng cửa đến tháng 7 năm 1975 thì mở cửa lại. Cuối tháng 9 năm 1975, các học sinh của trường học niên khóa 1974-1975 được dự thi bằng Trung Học Đệ nhất cấp và bằng Tú Tài.
Muốn vào học trường Pétrus Ký học sinh ưu tú của Saigon và các tỉnh phía Nam phải qua kỳ thi tuyển rất gay go, từ khi mới thành lập cũng vậy mà sau này cũng vậỵ Vì thuộc thành phần chọn lọc như vậy cho nên học sinh Pétrus Ký đậu rất nhiều và rất cao trong các kỳ thị Kỳ thi Trung Học Đệ Nhất Cấp năm 1959 chẳng hạn là kỳ thi rất hóc búa, toàn quốc chỉ có một người đậu hạng Bình mà thôi, và người đó là học sinh Pétrus Ký. Về phương diện kỷ luật và trật tự thì có lẽ không có trường nào có kỷ luật và trật tự chặt chẽ, tốt đẹp bằng trường Pétrus Ký.
Phần đông giáo sư Pétrus Ký là giáo sư được chọn lọc, rất có căn bản chuyên môn và cũng rất đạo đức. Các giáo sư được bổ nhiệm về trường Pétrus Ký và một số các trường lớn khác ở Saigon thường phải là những người đậu đầu hay thật cao trong danh sách tốt nghiệp CĐSP hay ĐHSP sau này, hoặc những người đã dạy lâu năm ở tỉnh. Quý thầy đều rất tận tụy với việc giảng dạy, rất thương học sinh, và rất chú tâm đến việc bảo vệ uy tín và thanh danh của trường Một số giáo sư Pétrus Ký đã đảm nhiệm những chức vụ quan trọng trong ngành giáo dục sau khi dạy ở trường một thời gian.
Từ ngày được thành lập cho đến khi trường bị đổi tên, trong suốt gần năm mươi năm hoạt động, trường trung học Pétrus Trương Vĩnh Ký đã làm tròn sứ mạng giáo dục được giao phó, đã đóng tròn vai trò một định chế xã hội đối với quốc gia, đã đào tạo được không biết bao nhiêu nhân tài cho xứ sở, đã trở thành một trường trung học phổ thông nổi tiếng vào bậc nhất ở miền Nam Việt Nam.
Khuôn viên trường Pétrus Ký vào buổi đầu thành lập
Ảnh chụp lúc Chợ Lớn và Sài Gòn còn là hai thành phố riêng biệt, khoảng giữa là vùng ngoại ô ít người. Khu Nancy, góc Cộng Hòa và Trần Hưng Đạo còn là đầm lau sậy. Khu Nguyễn Trãi bán hoa còn là đồn lính Cây Mai. Trước 1945 , trường Pétrus Ký rộng, chiếm trọn tứ giác Cộng Hòa (nay là Nguyễn Văn Cừ), Thành Thái (nay là An Dương Vương), Trần Bình Trọng , Nguyễn Hoàng (nay là Trần Phú). Khi đó, trường thu hẹp chỉ còn hai dãy nhà dài ở phía lưng chừng trên bên phải và khu văn phòng phía cực phải trong hình. Phần phía dưới trong hình , trước đây dùng làm khu nội trú cho học sinh. Sau 1954 , tách riêng để lập trường Đại học Khoa học Tự nhiên và trường Sư phạm , phần lớn bị phá huỷ để xây dựng lại. Phần phía trái trong hình , là nhà tập thể cho các giáo viên , nhưng nghỉ dạy không thu hồi lại mà cho phép chuyển nhượng.
Các đời hiệu trưởng từ 1927-1975
1927-1929 | 1929-1931 | 1931-1933 | 1933-1938 | 1938-1944 |
Sainte Luce Banchelin | Andre Neveu | Paul Valencot | Le Jeannic | |
1944-1947 | 1947-1951 | 1951-1955 | 1955-1957 | 1957-1958 |
Taillade | Lê Văn Khiêm | Phạm Văn Còn | Nguyễn Văn Kính | Nguyễn Văn Thơ |
1958-1960 | 1960-1963 | 1963-1964 | 1964-1966 | 1966-1969 |
Nguyễn Văn Trương | Phạm Văn Lược | Nguyễn Thanh Liêm | Trần Ngọc Thái | Trần Văn Thử |
1969-1971 | 1971-1971 | 1971-1973 | 1973-1975 | |
Trần Ngọc Thái | Trần Văn Nhơn | Bùi Vĩnh Lập | Nguyễn Minh Đức |