Google su započeli kao istraživački projekat januara 1996. Lari Pejdž i Sergej Brin, dva doktora nauka, bivši studenti Univerziteta Stenford iz Kalifornije.

Oni su zasnovali hipotezu da pretraživač koji analizira odnose između veb-sajtova treba da daje bolje rezultate od tada postojećih tehnologija, koje rangiraju rezultate prema broju pojavljivanja traženog pojma na stranici. Njihov pretraživač se prvobitno nazivao BackRub jer je sistem proveravao povratne veze kako bi izračunao vrednost sajta.

Mali pretraživač po imenu Rankdex je već imao sličnu strategiju. Ubeđeni da stranice sa najviše veza ka njima, sa ostalih veoma važnih stranica, moraju biti najbitnije stranice povezane sa pretragom, Pejdž i Brin su testirali tezu kao deo svojih studija, i postavili kamen temeljac za svoj pretraživač. Prvobitni pretraživač koristio je sajt Stenfordskog univerziteta na adresi google.stanford.edu. Domen google.com je registrovan 15. septembra 1997. godine, a kompanija je registrovana kao Google Inc. 17. septembra 1998. u prijateljevoj garaži u Menlo Parku u Kaliforniji. Ukupan početni fond je porastao za novu kompaniju za skoro 1,1 milion dolara, uključujući 100.000 dolara od Endija Behtolšajma, jednog od osnivača San Mikrosistema.

Ime Google dolazi od pogrešnog izgovora reči gugol što je naziv za broj 10100 (cifra 1 praćena sa stotinu nula). Naime, Lari Pejdž i Sergej Brin kada su odlučili da registruju Internet domen googol.com, ustanovili su da je već zauzet te su morali malo da ga modifikuju pošto nisu hteli da odustanu i traže drugo ime. Pronalazeći upotrebu u svakodnevnom jeziku, engleska reč google je 2006. dodata u engleski rečnik Merijam Vebster i Oksfordski rečnik čije je značenje „upotreba Gugl pretraživača u pronalaženju informacija na Internetu“. Takođe, u srpskom žargonu se upotrebljava glagol "guglati" sa istim značenjem.