1977年7月6日出生于辽宁省沈阳市。
1985年4月进入辽宁省体育运动技术学校少年足球训练班，师从教练张引。其后曾代表沈阳市两次参加全国“贝贝杯”足球赛，两获最佳射手奖。1993年11月，入选中国健力宝少年队第一次赴巴西留学。期间，在165场比赛中打进了近100个球，成为中国健力宝队的首席射手。1995年11月代表健力宝青年队（原中国健力宝少年队）参加尼泊尔国王杯国际足球邀请赛，独进5球成为赛会最佳射手。1995年，健力宝第一次回国，头一次在父老乡亲面前表演，大羽就打进了漂亮一球，那一天就是中国球迷的又一个开始。1996年3月，随健力宝青年队第二次赴巴西留学。1997年1月入选中国国家足球队而提前回国，代表国家队参加了“登喜路杯”国际足球赛，攻入了自己代表中国国家队的首粒入球，并成为中国队最终夺冠的头号功臣。
1997年7月，他代表健力宝青年队参加了世界青年足球锦标赛。1997年9月—10月，他代表中国国家队参加了世界杯预选赛亚洲区“十强赛”。
1997年12月第三次赴巴西留学。1998年4月正式学成回国。1998年5月代表健力宝队参加了法国“土伦杯”国际足球邀请赛，获第三名。
1998年6月起开始代表其母队辽宁队参加全国足球甲B联赛。1998年9月被法国甲级俱乐部南锡队看中，以租借的形式赴法踢球。1998年11月应召回国参加第十三届亚运会的足球比赛，在比赛中他一人独中7球，成为中国队获第三名的头号功臣。1999年7月，与法国南锡队终止租借合同，并重返辽宁队。同年代表中国国奥队参加悉尼奥运会亚洲区预选赛小组赛和九强赛。年底为辽宁队夺得99甲A联赛亚军立下汗马功劳。
2000年3月，勇夺1999超霸杯冠军。同年年底入选中国足球龙之队最佳阵容。2001年李金羽攻入11粒联赛入球，辽宁抚顺队获得联赛第三名。2002年年底以16粒入球成为2002甲A联赛最佳射手。2003年离开辽足，以年薪320万元人民币的价格加盟山东鲁能。
2004年7月，代表国家队参加在中国举行的第十三届亚洲杯，并有优异表现。2005年随国家队参加世界杯外围赛冲击2006年德国世界杯失败。2006年以26个进球获得中超金靴，并帮助鲁能第二次获得双冠王。2006年国际足联联赛最佳射手榜第九名。
2007年，李金羽打入联赛100球成为中国历史上第一人，并且帮助鲁能夺得中超季军，年度获得中超金靴奖。2008年共攻入14粒进球，帮助鲁能再次夺得中超冠军。2009年代表鲁能打入2球，山东鲁能获得中超联赛第四名。2010年，IFFHS公布世界最受欢迎球员排名：李金羽列亚洲第二，世界第八。
2010年8月26日，凭借着李金羽的唯一进球，山东鲁能在中超的一场补赛战胜北京国安。这粒进球是李金羽在2010赛季中超的第4粒进球，同时也是他在中超联赛的第73球，而他的联赛总进球数则达到了119球。
2011年1月4日，山东鲁能泰山在其官方网站上正式对外公告李金羽退役。自2004赛季加盟山东鲁能泰山以来，李金羽共为球队打入73个中超联赛入球、12个国内杯赛进球和7个亚足联冠军联赛进球。2011年1月5日，李金羽在鲁能俱乐部正式宣布退役。
