A maior diferença é que as edições Express não suportam plug-ins (Sem ReSharper, sem complementos). Além disso, as versões não expressas são todas combinadas, o que significa que você não precisa alternar entre as versões expressas individuais se tiver um projeto que cruze a Web, a área de trabalho, etc.
UPDATE 06/08/2015 - Se você está procurando por uma edição gratuita do Visual Studio hoje , você provavelmente estará usando o Visual Studio Community Edition, que é muito diferente das edições Express (melhor). Community Edition é essencialmente Professional Edition, mas gratuito para indivíduos, e suporta plugins!