Grafarkirkja, a igreja turfa mais antiga da Islândia, do século XVII

A Islândia é, em termos geológicos, uma ilha recente. A sua formação iniciou-se há cerca de 20 milhões de anos devido a uma série de erupções na Dorsal Média Atlântica. Amostras de rochas encontradas na Islândia datam de até há 16 milhões de anos.

A Islândia foi uma das ilhas de dimensão assinalável que mais tempo demorou até ser habitada por humanos. Já se sugeriu que a terra chamada Thule pelo mercador grego Píteas fosse a Islândia, embora esta hipótese seja altamente improvável, tendo em conta que a descrição feita por Píteas fala de um país agrícola com bastante leite, mel e fruta, hoje em dia associado às ilhas Xetlândia.

De acordo com o livro Landnámabók (ca. 1130) a Islândia foi descoberta pelo marinheiro escandinavo Naddoddr, que se perdeu, numa viagem da Noruega para as Ilhas Feroé, indo até a costa leste da Islândia, terra que baptizou de Snæland (Terra da neve).
O mesmo documento cita também o marinheiro sueco Garðar Svavarsson, que acidentalmente foi parar à Islândia e, descobriu que esta era uma ilha, à qual chamou Garðarshólmi (Ilha de Garðar). Passou lá um inverno em Húsavík.
O primeiro escandinavo a viajar deliberadamente para Islândia foi o norueguês Flóki Vilgerðarson, também conhecido como Hrafna-Flóki (Corvo-Flóki), que se estabeleceu durante um inverno em Barðaströnd. Foi um inverno frio, e, quando ele avistou gelo à deriva nos fiordes, deu à ilha o seu nome atual, Ísland (Terra do gelo).
O título de primeiro habitante permanente da Islândia é normalmente entregue a um chefe tribal norueguês Ingólfur Arnarson, que ao aproximar-se de terra, segundo conta a história, atirou duas varas borda fora, decidido a instalar-se onde as varas acabassem por ficar. Navegando junto à costa acabou por encontrá-las na península sudoeste, onde se fixou com a sua família por volta de 874, num local a que chamou Reykjavík ("Baía do Fumo"), e que viria a ser a capital da Islândia. Contudo, também se reconhece que Ingólfur não foi o primeiro indivíduo a viver permanentemente na Islândia, mas sim Náttfari, um escravo de Garðar Svavarsson que permaneceu na ilha quando o seu amo retornou ao continente.

Note-se que todas as informações anteriores têm como principal fonte o Landnámabók (Livro da colonização), livro que os historiadores islandeses repudiam como fonte, devido às suas muitas inconsistências. Contudo, achados arqueológicos encontrados em Reykjavík parecem confirmar a data de colonização mencionada no livro, indicando a presença de colonos por volta do ano 870.