Родился 8 февраля 1964 года в Павлодарской области Казахской ССР, куда его родители эвакуировались в 1941 году.С 1982 по 1984 гг. проходил срочную службу в Вооруженных Силах. Образование высшее - в 1990 г. окончил юридический факультет Омского государственного университета по специальности правоведение , после чего некоторое время там преподавал. В 1994 г. окончил аспирантуру юридического факультета Санкт-Петербургского государственного университета.
С 1991 по март 1992 г. занимал пост юрисконсультнта Комитета экономического развития и имущества администрации Петродворцового района Санкт-Петербурга.С марта 1992 по октябрь 1994 гг. - председатель Комитета по управлению имуществом Петродворцовского района Санкт-Петербурга.
В октябре 1994 г. был назначен заместителем председателя комитета, директором Департамента недвижимого имущества Комитета по управлению государственным имуществом (КУГИ) Санкт-Петербурга. В июле 1997 г. был назначен первым заместителем Председателя КУГИ Санкт-Петербурга.
2 сентября 1997 г. был назначен вице-губернатором - Председателем Комитета по управлению государственным имуществом (КУГИ) Санкт-Петербурга вместо убитого 18 августа 1997 года Михаила Маневича (с момента гибели Маневича Греф исполнял обязанности руководителя КУГИ). Предложение Грефу занять этот пост сделал губернатор Санкт-Петербурга Владимир Яковлев.
С сентября 1997 г. - член Совета директоров ОАО Ленэнерго . В январе 1998 г. Постановлением Правительства РФ был введен в состав Коллегии Министерства государственного имущества РФ. С апреля 1998 г. - член Совета директоров ОАО Морской порт Санкт-Петербург . С июня 1998 г. - член Совета директоров ОАО Петербург - 5-й канал .
12 августа 1998 г. постановлением Правительства РФ был назначен первым заместителем Министра государственного имущества РФ. 30 декабря 1998 г. постановлением Правительства РФ был введен в состав Координационного совета по экономическим вопросам региональной политики РФ.
За 1999 год входил в состав коллегий представителей в ОАО Связьинвест , Росгосстрах , ФКЦБ, ОАО АК Транснефть , был назначен руководителем правительственной комиссии по проверке деятельности ФСДН, был избиран в советы директоров АО Связьинвест , ОАО Аэрофлот - Российские международные авиалинии , Газпром .
С декабря 1999 г. - председатель совета Центра стратегических разработок.
18 мая 2000 года возглавил Министерство экономического развития и торговли, которому переданы часть функций упраздняемых Министерства по делам Содружества, Минторга и Минэкономики, Госкомитета по делам Севера, Федеральной службы России по валютному и экспортному контролю и преобразуемого Министерства по физкультуре, спорту и туризму.