Τα ελληνικά μαθηματικά παραπέμπουν στα μαθηματικά που είναι γραμμένα στην ελληνική γλώσσα από την εποχή του Θαλή του Μιλήσιου (~ 600 π.Χ.) μέχρι το κλείσιμο της Ακαδημίας των Αθηνών, το 529 μ.Χ.. Οι Έλληνες μαθηματικοί ζούσαν σε πόλεις που εξαπλώθηκαν σε όλη την Ανατολική Μεσόγειο, από την Ιταλία έως τη Βόρεια Αφρική, αλλά παρέμεναν ενωμένοι γλωσσικά και πολιτισμικά. Τα ελληνικά μαθηματικά μετά την εποχή του Μεγάλου Αλεξάνδρου, συχνά ονομάζονται και Ελληνιστικά Μαθηματικά.
Τα ελληνικά μαθηματικά ήταν πολύ πιο περίπλοκα από τα μαθηματικά που αναπτύχθηκαν σε προγενέστερους πολιτισμούς. Όλα τα σωζόμενα αρχεία των προ-ελληνικών μαθηματικών, μας δείχνουν τη χρήση της επαγωγικής λογικής, δηλαδή, τις επαναλαμβανόμενες παρατηρήσεις που χρησιμοποιήθηκαν για τον καθορισμό των κανόνων του αντίχειρα. Οι Έλληνες Μαθηματικοί, αντίθετα, έκαναν χρήση του επαγωγικού συλλογισμού. Οι Έλληνες χρησιμοποιούσαν τη λογική για να εξάγουν συμπεράσματα από τους ορισμούς και τα αξιώματα και χρησιμοποιώντας μαθηματική ακρίβεια, να τα αποδείξουν.
Τα ελληνικά μαθηματικά, θεωρείται ότι έχουν ξεκινήσει με το Θαλή το Μιλήσιο (περ. 624-546 π.Χ.) και τον Πυθαγόρα τον Σάμιο (περ. 583-507 π.Χ.). Αν και το εύρος της επιρροής αμφισβητείται, πιθανότατα εμπνεύστηκαν από τα αιγυπτιακά και τα βαβυλωνιακά μαθηματικά. Σύμφωνα με το μύθο, ο Πυθαγόρας ταξίδεψε στην Αίγυπτο για να μάθει μαθηματικά, γεωμετρία και αστρονομία από τους Αιγύπτιους ιερείς.
Ο Θαλής χρησιμοποιούσε γεωμετρία για την επίλυση προβλημάτων όπως ο υπολογισμός του ύψους των πυραμίδων και την απόσταση των πλοίων από την ακτή. Σε αυτόν αποδίδεται η πρώτη χρήση παραγωγικού συλλογισμού που εφαρμόζεται στη γεωμετρία, το οποίο απορρέει από τα τέσσερα θεωρήματα που υποστηρίζεται ότι απέδειξε ο ίδιος. Ως αποτέλεσμα, έχει αναγνωριστεί ως ο πρώτος αληθινός μαθηματικός αλλά και ο πρώτος γνωστός άνθρωπος στον οποίο έχει αποδοθεί μια μαθηματική ανακάλυψη. Ο Πυθαγόρας ίδρυσε την Πυθαγόρεια Σχολή, η οποία υποστήριζε ότι τα μαθηματικά κυβερνούν το σύμπαν και σύνθημα της ήταν «Το παν είναι αριθμός». Ήταν οι Πυθαγόρειοι που επινόησαν τον όρο ¨μαθηματικά» και εκείνοι που ξεκίνησαν, για δικούς του λόγους, τη μελέτη των μαθηματικών. Στους Πυθαγόρειους αποδίδεται η πρώτη απόδειξη του Πυθαγορείου θεωρήματος, αν και η δήλωση του θεωρήματος έχει μια μεγάλη ιστορία, όπως και η απόδειξη της ύπαρξης των άρρητων αριθμών.
Ο Πλάτων (428/427 π.Χ. – 348/347 π.Χ.) παίζει σημαντικό ρόλο στην ιστορία των μαθηματικών κυρίως γιατί ενέπνεε και διεύθυνε τους υπόλοιπους. Η Ακαδημία του Πλάτωνα στην Αθήνα, έγινε το μαθηματικό κέντρο του κόσμου τον 4ο αιώνα π.Χ. και ήταν η Ακαδημία απ’την οποία προήλθαν κορυφαίοι μαθηματικοί της εποχής όπως ο Εύδοξος από την Κνίδο. Ο Πλάτωνας ασχολήθηκε επίσης και με τα θεμέλια των μαθηματικών, διευκρίνισε κάποιους ορισμούς και αναδιοργάνωσε τις υποθέσεις. Η αναλυτική μέθοδος αποδίδεται στον Πλάτωνα ενώ και μια φόρμουλα εύρεσης πυθαγορείων τριάδων φέρει το όνομα του.
Ο Εύδοξος (408-περ.355 π.Χ.) ανέπτυξε τη μέθοδο της εξάντλησης, έναν πρόδρομο για τη σύγχρονη ολοκλήρωση και μια θεωρία που αφορούσε λόγους, αποφεύγοντας έτσι το πρόβλημα των ασύμμετρων μεγεθών. Η πρώτη επέτρεψε τους υπολογισμούς των επιφανειών και των όγκων των καμπυλών, ενώ η τελευταία επέτρεψε στους επόμενους γεωμέτρες να κάνουν σημαντικές προόδους στη γεωμετρία. Αν και ο ίδιος δεν έκανε ειδικές τεχνικές μαθηματικές ανακαλύψεις, ο Αριστοτέλης (384-περ.322 π.Χ.) συνέβαλε σημαντικά στην ανάπτυξη των μαθηματικών, θέτοντας τις βάσεις της λογικής.
Τον 3ο αιώνα π.Χ., το κορυφαίο κέντρο της μαθηματικής εκπαίδευσης και της έρευνας ήταν το Μουσείο της Αλεξάνδρειας. Εκεί δίδαξε ο Ευκλείδης και έγραψε τα Στοιχεία (περ. 300 π.Χ.), τα οποία θεωρούνται ευρέως ως τα πιο επιτυχημένα και με την μεγαλύτερη επιρροή, βιβλία όλων των εποχών. Τα Στοιχεία, τα οποία εισήγαγαν τη μαθηματική ακρίβεια μέσω της αξιωματικής μεθόδου, είναι το αρχαιότερο παράδειγμα που χρησιμοποίησε τη μορφή, ορισμός, αξίωμα, θεώρημα και απόδειξη, που χρησιμοποιείται μέχρι και σήμερα. Αν και τα περισσότερα από τα περιεχόμενα των Στοιχείων ήταν γνωστά, ο Ευκλείδης τα τοποθέτησε σ’ένα ενιαίο, συνεκτικό και λογικό πλαίσιο. Τα Στοιχεία ήταν γνωστά σε όλους τους μορφωμένους ανθρώπους της Δύσης μέχρι και τα μέσα του 20ου αιώνα και το περιεχόμενο τους εξακολουθεί να διδάσκεται σε τάξεις γεωμετρίας μέχρι και σήμερα. Εκτός από τα γνωστά θεωρήματα της Ευκλείδειας γεωμετρίας, τα Στοιχεία γράφτηκαν και ως ένα εισαγωγικό εγχειρίδιο που κάλυπτε όλα τα στοιχειώδη μαθηματικά της εποχής, όπως η θεωρία αριθμών, η άλγεβρα και η στερεά γεωμετρία, ενώ περιείχε και τις αποδείξεις ότι η ρίζα του 2 είναι άρρητος αριθμός και ότι υπάρχουν άπειροι πρώτοι αριθμοί. Ο Ευκλείδης έγραψε και για άλλα θέματα όπως για κωνικές τομές, οπτική, και σφαιρική γεωμετρία,και την μηχανική, αλλά μόνο τα μισά από αυτά έχουν σωθεί.
Ο Αρχιμήδης (287 – 212 π.Χ.) ο Συρακούσιος, θεωρείται ένας από τους μεγαλύτερους μαθηματικούς της αρχαιότητας, χρησιμοποίησε τη μέθοδο της εξάντλησης για να υπολογίσει την περιοχή κάτω από το τόξο μίας παραβολής με το άθροισμα των άπειρων σειρών, με τρόπο όχι ιδιαίτερα ανόμοιο σε σχέση με τους μοντέρνους λογισμούς. Επιπλέον απέδειξε ότι κάποιος μπορεί να χρησιμοποιήσει τη μέθοδο της εξάρτησης για να υπολογίσει την τιμή του π με όσο περισσότερη ακρίβεια γίνεται, και να αποσπάσει την πιο ακριβή τιμή του π που έχει υπάρξει, 310⁄71 < π < 310⁄70 . Επιπλέον σπούδασε την σπείρα, δίνοντας της το όνομα του, εξάγοντας συναρτήσεις από τους όγκους των γεωμετρικών επιφανειών (παραβολή, έλλειψη, υπερβολή), και ενός ευφυέστατου συστήματος για να εκφράζει πολύ μεγάλους αριθμούς. Ενώ είναι γνωστός για τη συνεισφορά του στη φυσική και σε πολλές μηχανικές συσκευές, ο Αρχιμήδης εγκαθίδρυσε τον εαυτό του ανώτερο από κάθε σκέψη και γενικούς μαθηματικούς κανόνες. Θεώρησε ως το μέγιστο κατόρθωμα του την ανακάλυψη μέτρησης της επιφάνειας και του όγκου μίας σφαίρας, η οποία ισούται με τα 2/3 της επιφάνειας και του όγκου ενός εγγεγραμμένου κυλίνδρου στη σφαίρα.
Ο Απολλώνιος ο Περγαίος (262-190 π.Χ.) έκανε σημαντικές βελτιώσεις στην μελέτη του κώνου, αποδεικνύοντας ότι μπορεί κανείς να παρατηρήσει και τις τρεις διαστάσεις του κώνου μεταβάλλοντας την άκρη του σχήματος έτσι ώστε να δημιουργηθούν δύο αντίθετοι κώνοι με την ίδια άκρη.[20] Επίσης χάραξε την ορολογία για τους κώνους όπως αυτή χρησιμοποιείται έως και σήμερα, με το όνομα παραβολή (“πλάγιο επίπεδο” ή “σύγκριση”), “έλλειψη” (“‘έλλειψη”), and “υπερβολή” (“μπροστινό επίπεδο”). Η δουλεία του πάνω στην θεωρία των Κώνων είναι μία από τις καλύτερες όλων των εποχών, ή οποία διατηρείται από την αρχαιότητα έως και σήμερα και από την οποία εκπορεύονται πολλά ανεκτίμητα θεωρήματα για τους κώνους που θα χρησιμοποιηθούν αργότερα από μαθηματικούς και αστρονόμους που θα μελετήσουν την κίνηση των πλανητών, όπως ο Isaac Newton. Ενώ ούτε ο Απολλώνιος, αλλά ούτε και κανένας άλλος Έλληνα μαθηματικός έκανε την υπέρβαση στον τομέα της γεωμετρίας, η προσέγγιση των καμπυλών από τον Απολλώνιο τείνει να μοιάζει με την μοντέρνα και μέρος του έργου του θα βοηθήσει στην ανάπτυξη της αναλυτικής γεωμετρίας από τον Descartes περίπου 1800 χρόνια μετά.
Περίπου την ίδια εποχή, Ερατοσθένης ο Κυρηναίος (c. 276-194 BC) επινόησε το Κόσκινο του Ερατοσθένη το οποίο έβρισκε τους πρώτους αριθμούς. Ο 3ος αιώνα π.Χ θεωρείται ως ο ” Χρυσός Αιώνας” για τους Έλληνες μαθηματικούς,με προόδους στα καθαρά μαθηματικά σε σχέση με την προηγούμενη περίοδο ύφεση. Παρόλα αυτά, στους αιώνες που ακολούθησαν έγιναν σημαντικές πρόοδοι στα εφαρμοσμένα μαθηματικά, και ιδιαίτερα στην τριγωνομετρία , όπου σε μεγάλο βαθμό απευθυνόταν στις ανάγκες των αστροναυτών. Ο Ίππαρχος της Νίκαιας(c. 190-120 π.Χ) θεωρείται ο θεμελιωτής της τριγωνομετρίας και ιδιαίτερα του πρώτου γνωστού τριγωνομετρικού πίνακα, και σε αυτόν οφείλεται επίσης και η συστηματική χρήση του κύκλου με 360 μοίρες. Ο Ήρων ο Αλεξανδρεύς (c. 10–70 μ.Χ) είναι γνωστός για τον Τύπο του Ήρωνα με τον οποίο βρήκε την περιοχή ενός σκαλινού τριγώνου και ήταν ο πρώτος που αναγνώρισε την πιθανότητα οι αρνητικοί αριθμοί να έχουν τετραγωνική ρίζα. Ο Μενέλαος ο Αλεξανδρεύς (c. 100 μ.Χ) πρωτοστάτησε στην σφαιρική τριγωνομετρία μέσω του θεωρήματος Μενέλαου. Η πιο ολοκληρωμένη και σημαντική τριγωνομετρική συνεισφορά στην αρχαιότητα ήταν η Αλμαγέστη του Κλαύδιου Πτολεμαίου(c. AD 90-168), ορόσημο στην αστρονομική διατριβή εκ των οποίων οι τριγωνομετρικοί πίνακες χρησιμοποιήθηκαν από αστροναύτες για χιλιάδες χρόνια. Ο Κλαύδιος Πτολεμαίος έχει διατυπώσει επίσης και ένα θεώρημα, το θεώρημα του Πτολεμαίου από όπου απορρέουν τριγωνομετρικές ποσότητες, και η πιο ακριβής τιμή του π έξω από την Κίνα μέχρι την μεσαιωνική περίοδο, 3.1416.
Μετά από τον Κλαύδιο ακολούθησε μια περίοδος στασιμότητας,η περίοδος μεταξύ 250 και 350 μερικές φορές αναφέρεται ως ” Ασημένια Χρόνια” των Ελλήνων μαθηματικών. Σε αυτή την περίοδο, ο Διόφαντος ο Αλεξανδρεύς έκανε σημαντικές βελτιώσεις στην άλγεβρα, και συγκεκριμένα την απροσδιόριστη ανάλυση,η οποία είναι επίσης γνωστή ως “Διοφαντική Ανάλυση”. Η μελέτη των Διοφαντικών εξισώσεων και της Διοφαντικής προσέγγισης είναι μια σημαντική συνεισφορά στις έρευνες που γίνονται εως και σήμερα. Η βασική του δουλεία ήταν πάνω στην Αριθμητική, μια συλλογή από 150 αλγεβρικά προβλήματα τα οποία σχετίζονται με ακριβής λύσεις για τις απροσδιόριστες εξισώσεις. Η Αριθμητική είχε μια σημαντική επιρροή στους μεταγενέστερους μαθηματικούς,όπως τον Πιέρ Ντε Φερμά , ο οποίος κατέληξε στο φημισμένο του θεώρημα, το Τελευταίο θεώρημα μετά από την προσπάθειά του να γενικεύσει το πρόβλημα που είχε διαβάσει στην Αριθμητική ( αυτό που χωρίζει ένα τετράγωνο σε δύο μικρότερα τετράγωνα). Ο Διόφαντος έκανε επίσης σημαντικές βελτιώσεις στον συμβολισμό, η Αριθμητική ήταν το πρώτο δείγμα από αλγεβρικούς συμβολισμούς και συγκοπές.
Η πρώτη γυναίκα μαθηματικός στην ιστορία ήταν η Υπατία της Αλεξάνδρειας (350 – 415 μ.Χ.). Διαδέχθηκε τον πατέρα της ως Βιβλιοθηκάριος τηε Μεγίστης Βιβλιοθήκης και συνέγραψε μεγάλο έργο πάνω στα εφαρμοσμένα μαθηματικά. Λόγω μίας πολιτικής αντιπαράθεσης, τιμωρήθηκε από την Χριστιανική αδελφότητα της Αλεξάνδρειας, θεωρώντας την ως συνένοχο, μαστιγώνοντας την γυμνή και αφαιρώντας της το δέρμα χρησιμοποιώντας όστρακα (φήμες κάνουν λόγο για κεραμίδια).