以色列最初单指个人名字，后演化为民族称谓，据《圣经》载犹太人的祖先雅各与天神角力并取胜，天神对雅各说：你与天神摔跤并且取胜，以后你不要叫雅各，要叫以色列，意为“与神摔跤的人”。而实际上，犹太人远祖是古代闪米特族支脉，起源于约4000年前的美索不达米亚平原，公元前十八世纪，族长亚伯拉罕率领其族人从两河流域的美索不达米亚乌尔城渡过幼发拉底河与约旦河来到巴勒斯坦地区（古称迦南）。被当地迦南人称为希伯来人，“希伯来”意思就是“渡河而来的人”。
据传公元前16世纪，迦南地发生了一次特大饥荒，希伯来人为了逃避饥荒而南迁埃及尼罗河三角洲东部。公元前13世纪末，因不堪埃及贵族奴役，40万希伯来人在领袖摩西的带领下离开埃及回到迦南。希伯来人开始从埃及迁居迦南。此后不再称希伯来人，而称以色列人或犹太人。
公元前1050年，犹太人击败非利士人，在原属于古埃及的地区建立以色列联合王国（也作希伯来统一王国），首位君主是扫罗。公元前1003年，以色列的第二任君主大卫王定都耶路撒冷①。公元前931年，以色列王国分裂成南北两部分，北部称北以色列，南部称犹大。以色列定都撒马利亚，犹大则仍以耶路撒冷为都。
公元前720年，亚速帝国在萨尔贡二世统治时期征服以色列王国，并将犹太人流放到各地，以色列十二支脉有十支从此消失。南犹大虽未被灭国，但成为了亚述帝国的附庸，纳贡称臣，苟延残喘至公元前586年，被新巴比伦王国②所覆灭。现在的犹太人基本为犹大王国的后裔。
公元前539年，波斯帝国征服新巴比伦王国，今巴勒斯坦全境属波斯帝国。公元前331年，亚历山大帝国征服波斯帝国，全境属亚历山大帝国。公元前300年，亚历山大大帝病逝，其部将建立托勒密王国，全境属托勒密王国。公元前200年，塞琉古帝国③占领全境。
公元前168年，犹太人通过起义，摆脱塞琉古帝国统治，建立马加比王国，并控制全境。公元前63年，罗马共和国的军事统帅格涅乌斯·庞培突袭耶路撒，废黜了国王，吞并了马加比王国的大部分领土。66年，犹太人暴动，史称第一次犹太战争，并控制以耶路撒冷为中心的犹太省。73年暴动被彻底平定，全境仍属罗马帝国。131年，罗马的犹太行省再次发生犹太人暴动，史称第二次犹太战争，135年，罗马军队攻陷耶路撒冷，所有犹太人幸存者被流放欧洲，并废除犹太省，改称“巴勒斯坦”，与叙利亚行省另外重组为叙利亚巴勒斯坦行省。
从此后犹太人从巴勒斯坦地区消失，直到十九世纪八十年代，因犹太人被认为是迫害耶稣的罪人，在欧洲受到基督教的排挤，部分欧洲犹太人迁到巴勒斯坦地区。1914年，一战开始，英国进攻奥斯曼帝国失败，便开始联络今巴以地区属奥斯曼的南方阿拉伯各省独立，并承诺战后土地归属阿拉伯人，但英国又怕中东地区阿拉伯人一家独大，暗中答应帮助犹太人在巴勒斯坦地区建国，并加速向该地区迁移犹太人。一战结束，巴勒斯坦地区成为英国托管地。1946年二战结束后，此时迁来的犹太人约630000人。因犹太人的迁入和购置土地，与巴勒斯坦本地人不断产生矛盾。
1947年11月29日，联大通过第181号决议，规定在巴勒斯坦建立阿拉伯国和犹太国。犹太人同意该决议，并于1948年5月14日宣布建立“以色列国”。但阿拉伯国家反对并拒绝该决议，因此“阿拉伯国”未建立。1948年——1982年，通过五次中东战争，以色列不断扩张，占领巴勒斯坦领土，至1982年战争结束，该地区93%的领土为以色列所占有。
【注释】
①耶路撒冷名称的准确来源尚无法确定。在希伯来语中，Yelushalaim这个名字可以理解为yelusha（遗产）和shalom（和平）的合成词。另一个比较普遍的解释是它将《圣经》里两个城市的名字结合在一起：耶布斯（Jebus）和撒冷（Salem，意“和平”）。撒冷这个地名出现《创世纪》14章，是大祭司麦基洗德的住处，他为来到这里的亚伯拉罕祝福。耶路的意思是“基石”或者“城市”，撒冷为和平，因而耶路撒冷有“和平之城”之称。
②历史上曾存在两个巴比伦帝国，为了区分，习惯上将前者称为古巴比伦王国，后者称新巴比伦王国（因为是居住在两河流域南部的迦勒底人在公元前625年所建，故而又称为迦勒底王国）。
③塞琉古帝国是亚历山大大帝的部将塞琉古一世创建的以叙利亚为中心，包括今伊朗和亚美尼亚在内的王国，中国史书称为条支。安条克三世（前223～前187在位）通过不断战争收复被托勒密王国占领的巴勒斯坦地区。
