Après une énième galère pour de nouveau activer l'url rewriting, je note ici la démarche à effectuer.
Ma configuration actuelle :
* Ubuntu
* Apache2
* Drupal 5

Installer le module rewrite pour apache :
a2enmod rewrite

Vérifier dans le fichier de configuration d'apache apache2.conf que les fichier .htaccess sont bien utilisés :
vi /etc/apache2/apache2.conf

Vérifier que la ligne est décommentée :
AccessFileName .htaccess

Modifier le fichier de configuration d'apache pour spécifier que le répertoire de drupal utilise l'url rewriting :
vi /etc/apache2/sites-available/default

Et ajouter les lignes correspondant au site :
<Directory /var/www/drupal-site>
Options Indexes FollowSymLinks MultiViews
AllowOverride all
Order allow,deny
allow from all
</Directory>

Le lien http://drupal-site/admin/settings/clean-urls devrait maintenant afficher la page de configuration des urls simplifiées et non un message d'erreur (en admettant que drupal-site est le nom de votre site).