Si hanno pochi dati certi sulla sua vita. Tutte le fonti concordano intanto sul fatto che fosse siracusano e che sia stato ucciso durante il sacco di Siracusa del 212 a.C. Vi è inoltre la notizia, tramandata da Diodoro Siculo, che abbia soggiornato in Egitto e che ad Alessandria d'Egitto abbia stretto amicizia con il matematico e astronomo Conone di Samo. L'unica cosa certa è che egli fu veramente in contatto con Conone (come si evince dal rimpianto per la sua morte espresso in alcune opere.) che però potrebbe aver conosciuto in Sicilia. Tenne corrispondenza con vari scienziati di Alessandria, tra cui Eratostene, al quale dedicò il trattato Il metodo e Dositeo.
Secondo Plutarco era imparentato col monarca Gerone II. La tesi è controversa ma trova riscontro nella stretta amicizia e stima che, anche secondo altri autori, li legava. La data di nascita non è certa. Viene di solito accettata quella del 287 a.C., sulla base dell'informazione, riferita dall'erudito bizantino Giovanni Tzetzes, che fosse morto all'età di settantacinque anni. Non si sa però se Tzetzes si basasse su fonti attendibili ora perdute o avesse solo tentato di quantificare il dato, riportato da vari autori, che Archimede fosse vecchio al momento dell'uccisione. L'ipotesi che fosse figlio di un astronomo siracusano di nome Fidia (altrimenti sconosciuto) è basata sulla ricostruzione di una frase di Archimede effettuata dal filologo Friedrich Blass, contenuta nell'Arenario, che nei manoscritti era giunta corrotta e priva di senso. Se questa ipotesi è corretta, si può pensare che abbia ereditato dal padre l'amore per le scienze esatte.
Dalle opere conservate e dalle testimonianze si sa che si occupò di tutte le branche delle scienze a lui contemporanee (aritmetica, geometria piana e solida, meccanica, ottica, idrostatica, astronomia ecc.) e di varie applicazioni tecnologiche.
Polibio,Tito Livio e Plutarco riferiscono che durante la seconda guerra punica, su richiesta di Gerone II, si dedicò (a detta di Plutarco con minore entusiasmo ma secondo tutti e tre con grandi successi) alla realizzazione di macchine belliche che aiutassero la sua città a difendersi dall'attacco di Roma. Plutarco racconta che, contro le legioni e la potente flotta di Roma, Siracusa disponeva di poche migliaia di uomini e del genio di un vecchio; le macchine di Archimede avrebbero scagliato massi ciclopici e una tempesta di ferro contro le sessanta imponenti quinquereme di Marco Claudio Marcello. Fu ucciso nel 212 a.C., durante il sacco di Siracusa. Secondo la tradizione l'uccisore sarebbe stato un soldato romano che, non avendolo riconosciuto, non avrebbe eseguito l'ordine di catturarlo vivo.
Archimede godeva di grande stima sia nel suo paese, infatti era un riferimento per re Gerone, sia ad Alessandria d'Egitto, dove intratteneva una corrispondenza con i più illustri matematici del suo tempo, sia tra i Romani, tant'è che c'è chi pensa che in realtà egli sarebbe stato ucciso per essersi rifiutato, dopo la presa di Siracusa, di passare al loro servizio.
L'opera di Archimede è parte integrante di quella tanto stupefacente quanto misconosciuta avventura della creatività umana che è stata la scienza dell'età detta ellenistica o alessandrina, le cui date convenzionali di inizio e di temine sono rispettivamente la morte di Alessandro Magno (323 a. C.) e la caduta del Regno d'Egitto sotto il dominio romano (30 a. C.). La scienza di tale periodo, soprattutto della prima metà, è caratterizzata da un elevato rigore teorico ed un uso estremamente sofisticato di modelli matematici e dalla loro consapevole applicazione alla meccanica. Lucio Russo, fisico, filologo e storico della scienza antica, nel suo libro La rivoluzione dimenticata scrive in proposito: Nella scienza ellenistica la meccanica è strettamente connessa alla geometria.
Diogene Laerzio afferma che Archita (nella prima metà del IV secolo a.C.)
non solo aveva introdotto per primo elementi di meccanica nello studio della
geometria (usando linee generate da figure in moto nella costruzione dei due
medi proporzionali tra due grandezze), ma aveva anche per primo trattato
questioni di meccanica servendosi di principi matematici.
Lo stretto legame tra geometria e meccanica, intese come due teorie
scientifiche, è chiaro in Archimede. Innanzitutto Archimede, nel trattato
Sull'equilibrio delle figure piane, in cui fonda lo studio delle macchine
semplici, trae dalla geometria non solo la forma generale dello schema
deduttivo, ma anche molti risultati tecnici particolari. Inoltre, cosa per noi ben
più sorprendente, Archimede usa le leggi della meccanica per scoprire teoremi
di geometria.