1784 年,高斯像普通市民的孩子一样入小学读书。他进的圣·凯瑟琳小学给他带来了好运。该校教师 J. G. 比特纳称职而热心,他教的班由 50 多名年龄各异、原有知识参差不齐的学生组成;比特纳发现高斯才智出众,特意从汉堡弄来一本算术教科书给高斯读。一个故事说,一次高斯在班上几乎不加思索就算出了 1+2+3+…+100 的和,令比特纳惊讶不已。当时任比特纳助手的 M. 巴特尔斯只比高斯大 8 岁,酷爱数学(后到俄国喀山大学任教授,是非欧几何创立者之一罗巴切夫斯基的老师),对高斯的数学才能特别器重,他们常在一起讨论算术和代数问题。高斯的父亲不希望儿子继续升中学读书。让子女多读书并非当地工人阶层的风尚;读小学时,高斯晚上经常秉父命上织机织布。经老师们的帮助,高斯于 1788 年进入预科学校(相当于现在的中学),这里班级的编排较正规,但课程颇显陈旧,而且过份强调古典语言特别是拉丁语的教学。高斯的目标是学术上的深造,当时的人文学科特别是科学经典都是拉丁文写的,于是他充分利用学校的条件攻读拉丁语,不久成绩就名列前茅。他还学会了使用高地德语(路德翻译圣经用的那种德语,即现在的标准德语),高斯原来只会使用本地方言。至于他的数学程度,教师在看了他的第一次数学作业后便认为,高斯已没有必要上该校的数学课了。
1802—1803 年间,高斯先后访问了 W. 奥尔伯斯博士[医生兼天文学家,1802 年发现了小行星“小惑星”(Pallas)]和著名天文学家 F. 察赫,为当时德国最著名的塞堡天文台的台长,1801 年 12 月 7 日晚第一个在高斯预报的位置上重新观测到谷神星,讨论了天文和大地测量问题,从此高斯开始了天文观测和野外测量。奥尔伯斯为堵绝圣彼得堡良好的工作条件对高斯的引诱,提议由高斯出任正在筹备中的格丁根新天文台的台长(1804 年此建议得到哥廷根方面的确认)。1804 年底,高斯又开始跟年轻的 F. W. 贝塞尔(后成为一流的理论及实用天文学家)进行维持终身的通信。据现存信件可知,高斯的长期通信者还有 C. L. 格林(物理学家,高斯的学生),H. C. 舒马赫(高斯的学生,天文学家)和 J. G. 雷普索尔德(仪器制作家,曾和高斯探讨消色差双物镜镜片的设计等问题)。