德育思想
张伯苓十分重视对学生的德育教育，视“德育为万事之本”。他认为，“教育范围绝不可限于书本教育、智育教育，而应特别着手于人格教育、道德教育”。他在南开中学的一次演讲中说：“……教育者，不但是不能以‘教书’、‘教学生’为满足，即使他能‘教学生学’，还没有尽他的教之能。”在他看来，德育包含着极其深刻的内容，积极的人生观、事业心、意志、社会公德、正直、善良、无私等多种素质，都是衡量一个人品格的重要尺度。
他对学生的人格教育要求很严格。他认为：“研究学问，固然要紧，而熏陶人格，尤其是根本。”他把人格的培养归纳为五个方面：立志、敦品、勤勉、虚心、诚意。他亲自抓这方面的教育工作。每逢周三的“修身课”，总是邀请校外专家名流，或者自己对学生作深入浅出、引人入胜的讲授，宣传为人做事和处世治学之道。他特别重视中国传统文化中关于道德修养的论述，经常谈论和提倡那些有益于提高现代人的思想品德的观点，如“熏陶人格”、“学行合一”等等，经常引用古圣先贤的一些名言警句。
为了培养学生的文明行为，张伯苓专门在校门的一侧设立一面整容镜，镜子上刻着严修书写的“面必净，发必理，衣必整，纽必结。头容正，肩容平，胸容宽，背容直。气象：勿傲、勿暴、勿怠。颜色：宜和、宜静、宜庄”。学生每次出入校门都会有所儆戒，形成了独特的南开精神，并得以继承和发扬。
由于当时社会风气颓废，他给学校规定了严格的校纪，如将“饮酒、赌博、冶游、吸烟、早婚等事，悬为厉禁，犯者退学，绝不宽假”。为了禁止学生吸烟，他曾带头折断自己的烟杆，并当众销毁所存的吕宋烟，终其一生不再吸烟。他严格要求自己，以身作则，博得广大师生的尊敬，这种榜样的作用在德育过程中是必不可少的。
同时，他还强调“诚信”是学生今后为人处世的一项基本原则。他在南开学校第八届毕业班的典礼讲话中说，“是故‘诚’之一字，为一切道德事业之本源，吾人前途进取应是为标准。事出于诚，既无不成，偶败亦必有恢复之一日”。他对“虚伪欺诈”、“投机取巧”等不良品行深恶痛绝，严加斥责，认为这些东西在我们国人中很有“市场”，必须予以彻底的根除，他提倡“欲成事者须带三分傻气”、“穷家子弟咬牙紧”、“生于忧患，死于安乐”的奋斗精神，鼓励学生发扬“南开精神”，即“硬干精神”、“不自私”、“肯为公”、“持之以恒”、“继之以勇”，他很重视这种精神力量的巨大作用，“以此精神置之学校既发达，置国家亦必能富强也”。
智育思想
张伯苓一向重视学生的智力发展。他是大胆的革新者，早在1904年教家馆时，就敢于冲破封建教育束缚。他不宣传封建教义的四书五经，而致力于提倡科学，宣传西方文化，开设算术自然科学、英语、体育课等课程。
注重教学质量是其教育思想的一个重要方面。南开一向以教学严格认真著称，强调基础知识和基本技能的训练，不论是中学或大学都是由最好的教师开基础课，重视实验操作，学生从中学就受到严格的科学训练。
他认为人才应具备德、识、才、学诸多品质。一个人的才干、见识、智谋和胆略应该是多方面的。智育不能单纯地被看做是传授知识，不能把德、智、体看做是德、知、体。他对智力教育的看法就在于他不以书本教育为满足，不赞成读书死记硬背，而认为教育不能与社会脱节，求学应与实际生活相联系。他认为教学质量的提高，不只是增加知识的份量和难度，要扩大知识面，活跃思维，为受教育者创造多种活动的条件。他说：“吾国学生之最大缺点，即平日除获得书本知识外，鲜谙社会真正的状况，故一旦出校执业，常觉与社会隔开，诸事束手。”他还说：“只知道压着学生读死书的学校，结果不过是造出一群‘病鬼’来，一点用处也没有。”这是颇有远见的。基于这种认识，他常常要求学生多接触社会实际，深入社会调查访问，进行社会考察，提倡学以致用。他还主张教师结合课堂所讲授的知识组织学生参观、实习。例如，在讲到社会保险时，去参观社会保险公司的业务；讲到电学时，去参观发电厂；讲到采矿时，参观开滦煤矿马家沟矿井等。为了使学生了解社会情况，1926年他还特地开设“社会视察”课，定为高中必修课。每周由教师引导学生到天津及各地参观工厂、商业、司法、教育、交通、救济、新闻、卫生等机关，并通过座谈讨论，写出考察报告。张伯苓认为这才是念活书，对学生大有益处。
他还积极主张开展丰富多彩的课外活动，组织各种社团，以锻炼学生的实际工作能力。如成立各种学术研究会、讲演会，出版刊物，成立剧团、体育队等。他认为从这里得来的学问，不比书本上的少。很多学生确是通过各项社会活动，对许多现实问题，如劳工、物价、住宅、工商机构、行政组织等问题获得基本概念，认清事物本质，受到社会启蒙，进而接触了马克思主义。由此可见，张伯苓办教育不只是向学生输送知识，而是着眼于培养学生解决问题的本领，立足于把学校当成培养社会需要的实干人才的场所。
体育思想
发展体育，增强国民的体质是张伯苓教育思想的重要组成部分。他曾多次谈到：教育的目的是救国，即以教育来改造中国，但中心是“改造她的道德，改造她的知识，改造她的体魄。”
张伯苓认为国民体质衰弱、精神不振、工作效率低，是因为国人不重视体育。1929年，他在美国考察教育时，看到南开矿科的毕业学生，原来在校读书时身体还是很强壮的，但后来在美国福特汽车厂做工，身体和工作效率都比不上外国人。当时，他就认为这不仅是某一个人身体不健壮的问题，而是国民体弱一代一代相传下来的结果。他说，过去一提国家强盛，就联想到军队的多寡、军火武器的优劣。其实，国家的强弱，至关重要的是人的体质。他根据多年的观察，认为“在德、智、体三育之中，我国人最差的是体育”，“强国必先强种，强种必先强身”，主张“强我种族，体育为先”。因此，他对学生的体育锻炼倾注了极大的心血。他大声疾呼：“南开学生的体质，决不能像现在一般人那样虚弱，要健壮起来”。1946年冬，张伯苓由美返国，对发展体育事业有了更进一步的认识。他认为：“教育如果没有体育，教育就不完全”，“不懂得体育的人，不宜当校长”。
为了强身，张伯苓十分注意体育教育的普及，提倡课外运动，除四年级外，各年级学生都要任选课外运动一门，足球、田径赛、排球、滑冰等均可。每周至少练习2次，每次1小时为限。学校尽可能建设运动场地，提供体育器材。到20世纪20年代末，大学在新校址已有足球场1个，男子篮球场3个，女生篮球场2个，男生排球场1个，女生排球场1个，网球场3个，棒球场1个，400米跑道运动场一个，体育器械大多从美国购来。为了鼓励学生参加体育锻炼，学校每年按期分院校举行各种运动比赛，并设有团体及个人奖品。
由于各项体育运动的普及和发展，校内涌现出不少优秀的运动选手和实力雄厚的运动代表队。他们多次在天津、北京、华北及全国各地甚至远东比赛中获得优异成绩。张伯苓本人就酷爱足球运动，他有时亲自带领学生踢足球或参加比赛。1935年以南开队主力队员和著名的北宁队组成的中北足球队，在参加“爱罗鼎杯”比赛中，连续挫败在天津的英国队、俄国队和世界队等，获得冠军，成为我国有史以来第一次战胜洋人而夺标的足球队。张伯苓高兴地宴请了全体队员，席间，他激动地说：“西洋人嘲笑我们是‘一盘散沙’，做事是‘五分钟热度’，事实是最好的反证。足球比赛是一种团结合作性很强的运动，全队必须团结一致，顽强奋战，才能有取胜的希望，我们以此来克服‘一盘散沙’，不失为一副良剂。足球比赛的时间长，紧张而激烈，必须具备坚韧不拔的精神，如以此作为服务于社会的准绳，就不会被人嘲笑我们是‘五分钟热度’了。”
张伯苓倡导体育活动时还特别强调“按学生个性之发展”，“有兴趣之练习”。南开的体育教学大纲中把“精神愉快，发生美感”列为体育教学和课外体育要达到的目标；在体育教材大纲中强调了“自试的活动”、“韵律的活动”、“游戏的活动”等内容，不仅有基本动作教练和运动技能的学习，而且有团体游戏的演练。体育教学不仅训练学生的基本技能，而且讲授生理卫生知识、人体健康知识和饮食知识，学校定期对学生进行体格检查，针对身体薄弱部分特别加以体育锻炼，体现了体育与健康相结合的思想。
张伯苓一生提倡体育不遗余力。他始终把学生的健康作为学校一切工作的出发点。这个思想的确立，不仅仅是出于为改变当时广大青少年由于享受不到真正的体育权利，健康状况极为低下的局面，更是基于他对体育在培养全面发展人才重要性的深刻认识。
美育思想
张伯苓不仅重视对学生进行德、智、体教育，而且没有忽视美育。为了活跃学生们的学习生活，在学校成立之初，他就鼓励学生演一些话剧，后来又成立新剧社，使南开成为国内最早上演“校园话剧”的学校。他还亲自写作剧本，指导学生表演，甚至不惜校长身份担任剧中重要角色，使外界惊骇不已。张伯苓自编自演的《用非所学》和之后排演的《一元钱》、《新少年》、《娜娜》等曾轰动一时。剧作家曹禺，当时在南开上学时，从中获益匪浅。同时，学校的音乐活动也非常活跃。音乐教室里，音乐教师几乎是不分昼夜地教每个班、每个组，从中国民歌、抗战歌曲直到西洋古典乐曲。此外，学校还将土风舞蹈、健身舞蹈等各式舞蹈列为体育课程的内容，融美育于体育之中。