Esto es algo que por difícil que parezca es sencillo y fácil de hacer. Eso sí, siempre que quede claro un concepto:
la diferencia entre JPG, PNG y GIF
JPG no es un formato que acepte el fondo transparente, por lo que al poner la foto, el fondo permanecerá y tapará todo lo que haya detrás, mientras que PNG es el formato específico para esa forma de guardar las fotografías y te permitirá hacer como si ese fondo no existiera realmente (como en el cartel del 7up). Lo malo de este formato es que Internet Explorer no lo acepta, por lo que si quieres que los que te visiten con este navegador lo vean y no tengan problemas con tu página, tu formato final debe ser el GIF.

Para poner la imagen flotante seguiremos estos pasos:

1 Así pues, elegiremos la fotografía que más nos guste y con el Photoshop (o el programa que elijas) le quitaremos el fondo y la guardaremos en formato PNG o GIF (recuerda, perferiblemente en formato GIF) en nuestro PC.

2 Subiremos la fotografía a Photobucket. Puedes hacerlo en cualquier otro lugar, pero asegurate que no te las transforman a JPG.

3 Añade este código a tu plantilla HTML antes del </body>:

<a href='Dirección de tu blog' style='display:scroll;position:fixed;bottom:0px;right:0px;'><img src='URL de la imagen'/>

3.1 Asegurate de hacer una copia de seguridad de tu plantilla antes de modificarla, puedes cagarla intentando hacer una de estas chorradas y ya no tendrá remedio...habla la voz de la experiencia...jejeje

3.2
Realiza una vista previa antes de guardar los cambios para asegurarte de que lo que querías hacer es lo que has echo.

4 Y ya está. sencillo ¿no?

Espero que esto os ayude .

Actualización:

Juanjo nos dice que el formato PNG no es compatible con Internet Explorer. Como hace tiempo que no uso ese navegador no lo sabía, pero hecha esta aclaración os diré que me ha dicho que pruebe guardando la imagen en formato GIF. Lo he echo y funciona igual. Además tenemos la ventaja de que pesa menos, por lo que la carga de la página será más rápida y todos los navegadores lo podrán ver perfectamente.

Muchas gracias Juanjo por la aclaración.